Pertencendo antes aos Condes de Portalegre, foi restaurado no século XVII por José Rodrigues de Figueiredo, passando então a ser conhecido pelo nome atual. É considerado um dos mais belos paços do País.
Sendo incendiado pelos exércitos de Napoleão Bonaparte e ficando em ruínas, foi depois recuperado respeitando a arquitetura original.