Se a versão do pfsense for anterior a 2.1, você esbarrou em um problema conhecido de interdependência de pacotes.
O mais seguro e rápido a fazer é backup do seu xml, e arquivos que você possa ter copiado para ele e em seguida formatar e reinstalar.
Depois de restaurar o backup, seu sistema volta ao normal.
A partir da 2.1, cada pacote tem sua arvore de bibliotecas(parecido com um chroot)