Vicino al campanile, ai piedi della roccia che domina l'abbazia, gli scavi hanno portato alla luce le fondamenta di alcuni edifici che, a partire dal IV sec., hanno preceduto la chiesa attuale. È possibile visitare le "catacombe", strette gallerie sotterranee che conducono alle cripte e alla tomba di San Maurizio.