L'origine du temple dédié à Saint Jean Baptiste, devenu saint patron de la ville, est encore incertaine. La coutume dit qu'il fut fondé à l'époque romaine et dédié au dieu Mars. Plusieurs sarcophages, aujourd'hui au musée de l'Opera del Duomo, furent en effet découverts en ce lieu ainsi que la célèbre statue de Mars que les chroniques médiévales situent à l'entrée du Ponte Vecchio. D'autres soutiennent au contraire que l'édifice était le Prétoire et la statue celle d'un roi barbare.

Même Dante disait que son "beau Saint Jean" (Inferno, chant XIX) était un monument classique romain et que les fouilles du siècle précédent avaient effectivement permis de découvrir des restes de constructions romaines sous le Baptistère et sous le Dòme, au nord est de la première ceinture murale. C'est sans doute là que furent posées les fondations du premier Baptistère St Jean que l'on situe aux IV-Vè siècles.

Sa forme octogonale, les deux ordres inférieurs, l'attique et l'imposte de la coupole ou bien encore la véritable structure architecturale datent de la construction paléochrétienne, certainement remaniée et complétée dans les premières décennies du VIIè siècle lors de la domination lombarde.

L'église St Jean entra officiellement dans l'histoire le 4 mars 897, lorsque le conte palatin Amedeo, invité par l'empereur, siégea sous le portique devant la "Basilique de Saint Jean Baptiste" afin de rendre la justice. A cette époque évidemment, l'église exerçait les fonctions d'une cathédrale à la place de Santa Reparata. La deuxième date historique est celle du 6 novembre 1059, quand le pontife florentin Niccolò II, à peine élu, consacra à nouveau la basilique, qui devenait ainsi le nouveau siège épiscopal. Cette consécration laisse supposer que le temple a été radicalement transformé ou peut-être même reconstruit. Ce qui est sûr, c'est que la coupole à huit branches fut complétée alors que sur le còté ouest se trouvait une abside semi-circulaire devant accueillir l'autel. Sur les autres còtés s'ouvraient les trois portes. En 1113, l'église reçut la sépulture de l'évèque Ranieri.

Ce n'est qu'en 1128 que l'église St Jean abandonna pour toujours son rang de cathédrale et se réserva celui de Baptistère. A l'époque, le sacrement était administré seulement deux fois dans l'année de sorte qu'il fallait ouvrir plusieurs portes d'accès pour faire face à l'afflux de la foule. Il ne faut pas oublier qu'en 1172, "Fiorenza" comptait 30000 habitants et la nouvelle enceinte murale, la quatrième, renfermait une superficie faisant au moins deux fois celle de la troisième, construite par Matilde di Canossa en 1078.

Durant ces mêmes années (milieu XIIè siècle) fut commencé le revêtement externe du Baptistère: un chef d'oeuve de marqueterie en marbre blanc de Carrara et vert de Prato, dessiné de façon géométrique dans un style classique, qui prit la place de la pierre de grès et qui déjà montrait cette volonté de délimitation des espaces qui mènera à la perspective de la Renaissance.

Il en résulte une oeuvre de grande élégance incarnant parfaitement l'esprit artistique des florentins et qui constitue le prototype de l'architecture romane citadine qui servit de modèle à Leon Battista Alberti lorsqu'il compléta la façade de Santa Maria Novella en 1470.
Les huit branches angulaires aux rayures blanches et vert foncé (elles étaient à l'origine en pierre limpide) sont elles plutòt caractéristiques du style roman utilisé à Lucques, Pise et Pistoia. Notons également les fenêtres alternant les tympans aigus et semi-circulaires, motif décoratif classique reprit durant toute la Renaissance.

Dans la second moitié du XIè siècle, on procéda au revêtement en marbre de l'intérieur tandis que pour le sol, lui aussi en marbre, il fallut attendre le siècle suivant. Au treizième siècle, l'intérêt pour le monument crût encore davantage: non seulement on s'occupa du revêtement externe, et de l'abside qui, de semi-circulaire devint une escarselle carrée (1202), mais on commença aussi la décoration intérieure couvrant l'escarcelle (1225) et la coupole (vers 1270-1300) de mosaiques. Ainsi, après avoir été un chantier innovatif en ce qui concerne l'architecture, le Baptistère devint naturellement le laboratoire de la nouvelle école de peinture florentine initiée par Coppo di Marcovaldo et Cimabue (qui exerça à St Jean) et qui mènera à Giotto.

Au XIVè siècle on commença enfin à penser à de nouvelles portes dignes du monument: Le sculpteur Andrea Pisano fut commissionné pour la première qu'il réalisa entre 1330 et 1336, et les deux autres furent réalisées par Lorenzo Ghiberti qui compléta la deuxième entre 1401 et 1424 et la troisième, dite "du Paradis", entre 1425 et 1452. Les sculptures au-dessus de chacune d'elles sont l'oeuvre de Sansovino (1502, Porte est, ou du paradis), de Giovan Francesco Rustici (1506-11, Porte nord) et de Vincenzo Danti (1570, Porte sud, qui comporte aussi des montants de porte sculptés en 1452-62 par Vittorio di Lorenzo Ghiberti).
Sur les còtés de la Porte du Paradis se trouvent deux colonnes en porphyre données par les Pisans aux Florentins en remerciement de l'aide militaire fournie en 1117 pour défendre Pise de Lucques alors que leur flotte était engagée aux Baléares contre les Musulmans. Les deux colonnes sont fracturées, probablement suite à une inondation, mais une malicieuse tradition populaire dit qu'elles étaient déjà cassées et que c'est pour cacher cela qu'elles étaient recouvertes de draps: d'où l'expression "les Florentins sont des aveugles et les Pisans des traîtres".
A noter, à l'intérieur, le monument dédié à l'antipape Jean XXIII, réalisé par Donatello et Michelozzo en 1421-1427.