Κατασκευάστηκε στους ρωμαϊκούς χρόνους και ο κύριος λόγος της κατασκευής του ήταν η ανάγκη να υδροδοτηθεί η ρωμαϊκή συνοικία της Αθήνας η οποία περιελάμβανε τον χώρο που καταλαμβάνει σήμερα το πάρκο του Ζαππείου από την βουλή έως και το Καλλιμάρμαρο. Οι εργασίες για την κατασκευή του υδραγωγείου ξεκίνησαν το 134 μ.Χ. και ολοκληρώθηκαν το 140 μ.Χ. Η σήραγγα μήκους 25 χιλιομέτρων που κατασκευάσθηκε ξεκινούσε από την περιοχή του Τατοΐου και μετέφερε το νερό με την βαρύτητα έως και τους πρόποδες του Λυκαβηττού όπου αποθηκευόταν σε λιθόκτιστη δεξαμενή χωρητικότητας 500 περίπου κυβικών μέτρων. Το υδραγωγείο συνέχισε να λειτουργεί μέχρι και στα χρόνια της τουρκοκρατίας, οπότε και καταστράφηκε από τον Χατζή-Aλή Χασεκή. Καθαρίστηκε και ξαναμπήκε σε λειτουργία στους νεώτερους χρόνους από τους δημάρχους Κυριακό και Σούτσο.
Η λειτουργία του υδραγωγείου δεν ήταν συνεχής ανά τους αιώνες. Το Αδριάνειο στην εποχή του λειτούργησε για μερικούς αιώνες και στη συνέχεια λησμονήθηκε, πιθανώς μετά από καταπτώσεις και αποφράξεις σε διάφορα σημεία της σήραγγας. Μετά την απελευθέρωση από τους Τούρκους το υδροδοτικό πρόβλημα της Αθήνας ήταν οξύτατο και με δεδομένη τη σταδιακή πληθυσμιακή αύξησή της η αντιμετώπισή του ήταν επείγουσα. Με πρωτοβουλία της εκάστοτε δημοτικής αρχής της πόλης γίνονταν σημαντικά έργα κατά καιρούς, όπως επισκευές και καθαρισμοί του υδραγωγείου, το οποίο τέθηκε και πάλι σε λειτουργία το 1847. Επανήλθε στην επικαιρότητα, όταν σε προσπάθειες καθαρισμού υποτιθέμενης “πηγής” στον Άγιο Δημήτριο Αμπελοκήπων, διαπιστώθηκε ότι το νερό έφθανε εκεί μέσα από σήραγγα η οποία παρακάτω είχε καταρρεύσει και φραχθεί. Το νερό που ανέβλυζε εκεί, δίνοντας την εντύπωση πηγής, χρησιμοποιείτο από τους Τούρκους για το πότισμα των κήπων τους. Στα επόμενα χρόνια και πιο συγκεκριμένα κατά το 1871 (επί δημαρχίας Π. Κυριακού), δημοτικά συνεργεία με επικεφαλής τον μηχανικό Ιωάννη Γενησαρλή καθάρισαν και επισκεύασαν τμήμα του υδραγωγείου στους Αμπελοκήπους. Ακόμη ανακάλυψαν την αρχαία δεξαμενή του Αδριανού, κάτω από αντίστοιχη “πηγή” που είχε δημιουργηθεί στην πλατεία “Δεξαμενής” στο Κολωνάκι, επίσης από αναβλύζοντα ύδατα. Η ρωμαϊκή δεξαμενή ανακατασκευάστηκε και τέθηκε σε λειτουργία, μαζί με μια λιθόκτιστη διθάλαμη δεξαμενή, που κατασκευάστηκε από τον Δήμο στην ίδια τοποθεσία το 1880, για μεγαλύτερη αποθηκευτική ικανότητα αλλά και ως διυλιστήριο. Οι δύο δεξαμενές είχαν χωρητικότητα γύρω στα 2200 m3, και λειτουργούσαν μαζί για την ύδρευση της Αθήνας.