La chiesa romanica di San Babila, costruita intorno al XI secolo, era in origine a tre navate con tre absidi. La navata centrale, più grande, era divisa in tre campate, sulla seconda delle quali si alzava il tiburio ottagonale. Era priva di cappelle laterali e di sacrestia.
I primi rimaneggiamenti sono di epoca viscontea, con la consacrazione di due altari e la costruzione della sacrestia.
In seguito alla visita dell'arcivescovo Visconti del 1591 si decise poi, dato il cattivo stato di conservazione dell'edificio, di realizzare opere più radicali. Il restauro di epoca barocca infatti portò alla demolizione della facciata romanica per aggiungere una campata alla chiesa e all'abbattimento delle absidi.
La ricostruzione non fu però definitiva. All'esterno, nei primi anni del XX secolo, i rifacimenti di stile barocco vennero demoliti senza rimpianti per lasciare spazio a quelli neoromanici. L'interno, invece, ha accolto col tempo le vetrate del Bertini, le decorazioni pittoriche del Pogliaghi e del Cavenaghi, l'altare maggiore del Moretti.
Altri lavori furono realizzati in tempi successivi: il battistero d'ispirazione paleocristiana e la nuova cappella dell'Addolorata in sostituzione di quella distrutta dai bombardamenti della Seconda Guerra Mondiale.La storia della fondazione della Chiesa di San Babila è stata oggetto di numerosi dibattiti ma sembra ormai chiarita. Secondo la leggenda, infatti, San Babila fu la prima chiesa costruita a Milano nel 46 d.C. su un tempio pagano dedicato al Sole. La stessa leggenda narra che fu eretta da San Barnaba che vi avrebbe celebrato la sua prima messa dopo l'ingresso in città.
In realtà, la testimonianza più antica dell'esistenza di una chiesa dedicata a San Babila risale al XII secolo e afferma che la stessa venne costruita in tempi più recenti dal prete Nazario Muricola. I successivi scavi per il restauro confermano quest'ultima versione.