La cripta conserva tuttora il rivestimento settecentesco del Vaccaro, con le antiche colonne (una rimessa in luce) trasformate in pilastri ricoperti da lastre marmoree policrome e volte decorate a spicchi, cartigli e volute.

Dei tre altari, quello centrale ad intarsi di marmi, è capolavoro di C. Tucci, eseguito intorno al 1744 (gli angeli ai lati sono invece opera di G. Buonacquisto), dedicato a S. Sabino (sotto il quale sono custodite le sue reliquie), il cui busto d'argento (ora al Museo Diocesano) era collocato al centro, sostituito oggi dalla icona dell'Odegitria, chiusa in una cornice di marmo, opera dello scultore Giulio Cozzoli di Molfetta (1882-1957).

Nell'altare a sinistra è collocata la tela raffigurante S. Michele in smaglianti colori, opera di scuola napoletana della seconda metà del XVIII secolo.

A sinistra, nell'abside contrapposta, si trovano dei riquadri affrescati del XIV-XV secolo (Vergine in trono fra i SS. Onofrio e Orsola, le sue compagne e S. Pietro martire).