La chiesa, iniziata nel 1251 faceva parte del complesso conventuale degli Umiliati, un ordine nato in lombardia nel XII secolo. Gli Umiliati erano dediti alla lavorazione della lana, all'accoglienza dei pellegrini ed ebbero qualche problema con il Papato per via di alcune tendenze eretiche nate all'interno del movimento. Furono scomunicati nel 1184 dal concilio di Verona e riammessi poco dopo da Papa Innocenzo III che li riorganizzò in tre ordini: i chierici, i monaci ed i laici. Nel 1571 l'ordine fi definitivamente soppresso anche a causa di uno strano avvenimento. Un certo Gerolamo Donato, detto "Farina", il 26 ottobre 1569 si recò nella notte all'arcivescovato nascondendo un archibugio e sorprendendo San Carlo Borromeo in preghiera in una cappella (vedi anche Alessandro Manzonii  promessi sposi). Il Farina esplose un colpo che non fece danno alcuno ma che fu determinante per la soppressione dell'ordine.

A Firenze gli Umiliati si stabilirono prima fuori città come loro costume e proprio per offrire quell'accoglienza ai pellegrini che una posizione decentrata facilitava. Si installarono quindi presso la chiesetta di Santa Lucia, ed estesero gradualmente le loro proprietà fino a comprendere un oratorio sul borgo (cioè su una strada fuori della vecchia cinta muraria), dove fecero costruire la loro chiesa ad honorem Sanctorum Omnium e il convento; il complesso venne portato a termine nel 1260.

La zona era particolarmente adatta, perché all'altezza della Porta alla Carraia, dove il Mugnone sfociava nell'Arno, c'era un'isoletta che formava un canale utile per ricavare l'energia idraulica per mulini e gualchiere. Per favorire tale sfruttamento, gli Umiliati costruirono la pescaia di Santa Rosa, insieme a un ricco sistema di canali. In breve tempo, alla fine del duegento, visto il fiorire della ricchezza del quartiere e dei commercianti che attraverso donazioni all'ordine che in un certo qual modo era ragione della loro agiatezza, gli Umiliati furono chiamati a ricoprire importanti cariche pubbliche.

Intorno al 1310 venne posta sull'altar maggiore la Maestà di Giotto, ora agli Uffizi. Nella sagrestia sono conservate altre opere trecentesche, come una Crocifissione ad affresco di Taddeo Gaddi ed un Crocifisso dipinto da un collaboratore di Giotto. Sempre al Trecento risale lo slanciato campanile.