Este castelo foi construído sobre um antigo castro lusitano que os romanos fortificaram.
Do primitivo castelo destacam-se a Alcáçova com a Torre de Menagem, a cisterna abobadada e duas portas, a dos Fogos e a do Sol, que definem a estrutura das muralhas do antigo burgo. A cisterna encontra-se próxima de um troço de muralha.
Durante os séculos XVI e XVII a torre serviu de Paços do Concelho. Destaque na Porta do Sol, para uma janela setecentista com a data de 1642.
Esta estrutura está classificado como Monumento Nacional desde 1951.