La construction de l'autel de Nam Giao a débuté en 1806 pour s'achever en 1807 sous le règne de l'empereur Gia Long. La cérémonie sacrificielle de Giao (sacrifice au Ciel et à la Terre) constituait le rituel le plus important du régime féodal car, selon la doctrine confucéenne, l'empereur est le « Fils du Ciel » régnant sur le peuple selon la volonté céleste. Par conséquent, cette cérémonie n'était pas uniquement un rituel spirituel, mais également un acte politique majeur visant à consolider le pouvoir et le statut du monarque.

De 1807 à 1885, la cérémonie sacrificielle était célébrée régulièrement chaque année au printemps. Puis, à partir de 1891, sa fréquence est passée à une fois tous les trois ans. La dernière cérémonie de la dynastie des Nguyen en ce lieu s'est déroulée en 1945.
Après la chute de la dynastie des Nguyen, l'autel de Nam Giao a été progressivement abandonné et lourdement endommagé pendant les deux guerres. En 1977, un monument aux morts a été érigé directement sur l'esplanade circulaire supérieure, suscitant une vive émotion au sein de l'opinion publique. Ce n'est qu'en 1992 que ce monument a été déplacé pour permettre d'engager la restauration et la réhabilitation du site. En 1993, l'autel de Nam Giao a été inscrit au patrimoine culturel mondial de l'UNESCO, marquant un tournant décisif pour sa préservation et sa mise en valeur.

