Su via del Borgo di Sopra, quasi di fronte al palazzetto del Guerriero e del Poeta, si erge il campanile della Chiesa di Sant'Andrea che fu l'antica Collegiata dei Santi Pietro e Caterina fino agli inizi del Settecento, quando la collegiata e la parrocchia furono trasferiti nel Duomo. Il suo abbandono cominciò nel XIX secolo, quando a causa di decisioni politiche inadeguate, non furono realizzati i necessari lavori di restauro. Della chiesa, realizzata nel XII secolo in stile gotico ed eretta probabilmente sopra l'antica chiesa di San Leonardo, attualmente sono visibili soltanto la struttura esterna, alcuni frammenti di colonne e capitelli marmorei e il campanile fatto restaurare dal Conte Everso degli Anguillara nel 1436 a opera di Mastro Galasso De Anna. Quest'ultimo richiama modelli romanici ed è composto da quattro piani con finestre monofore, bifore e trifore e da un ultimo piano a pianta ottagonale. Le spallette della monofora al primo piano sono costituite da parti di transenna marmorea a fasce intrecciate provenienti, probabilmente dalle chiese del distrutto borgo di Vico, come testimoniato dal fatto che il loro aspetto è del tutto simile a un altro frammento inserito nel pavimento della chiesa di Santa Lucia.
Sulla facciata sono incastonati un'iscrizione marmorea che documenta l'anno di costruzione del campanile e lo stemma degli Anguillara.