Ο λατρευτικός χαρακτήρας του χώρου ανάγεται στα προϊστορικά χρόνια, ενώ η ίδρυση του ιερού του Δία τοποθετείται στους πρώιμους ιστορικούς χρόνους. Γύρω στο 515 π.Χ. άρχισε να κτίζεται από τον Πεισίστρατο ένας μνημειώδης ναός που δεν ολοκληρώθηκε λόγω της πτώσης της τυραννίας. Το έργο επιχείρησε να συνεχίσει πολύ αργότερα ο βασιλιάς της Συρίας Αντίοχος Δ' ο Επιφανής, το 174 π.Χ., αλλά τελικά αποπερατώθηκε από τον αυτοκράτορα Αδριανό το 124/125 μ.Χ.
Από τους μεγαλύτερους του αρχαίου κόσμου (μήκος 110,35 μ. και πλάτος 43,68 μ.) ο αδριάνειος ναός έφερε δύο σειρές από 20 κίονες στις μακρές πλευρές και τρεις σειρές από 8 κίονες στις στενές. Είναι το πρώτο παράδειγμα όπου κιονοστοιχίες κορινθιακού ρυθμού χρησιμοποιούνται στην εξωτερική όψη ενός μνημείου. Μέσα στο ναό υπήρχε το κολοσσικό χρυσελεφάντινο άγαλμα του Δία, ενώ έξω από το ναό στήθηκε το επίσης κολοσσικό άγαλμα του Αδριανού, αφιέρωμα των Αθηναίων στο Ρωμαίο αυτοκράτορα, χάρη στον οποίο η πόλη τους γνώρισε την τελευταία αναλαμπή της στην ύστερη αρχαιότητα.
