En una colina separada por un barranco natural de la Plaza del Mercado y la iglesia, se encuentra la reconstrucción de una fortaleza altomedieval llamada "Barbarka", en referencia a los inicios de Serock.
Su fundación se remonta al siglo XI y fue una de las primeras de Mazovia. La primera fortaleza adoptaba la forma de una estructura circular de arena reforzada con una capa de troncos de madera, y estaba habitado principalmente por pescadores y artesanos, cuyas actividades influyeron en gran medida en el desarrollo del lugar y en su transformación con el tiempo en un importante centro de comercio.
Entre los siglos XI y XIII, el castillo fue destruido por el fuego en tres ocasiones y reconstruido dos veces.