Το όνομά της η γειτονιά το οφείλει –όπως μάλλον μαντεύεις− στον στρατηγό Ιωάννη Μακρυγιάννη, ο οποίος έμενε εδώ, σε ένα μεγάλο διώροφο σπίτι του 1834, στη γωνία των οδών Μακρυγιάννη και Αθανασίου Διάκου. Το σπίτι επιβίωσε ως το 1950.
Ο Μακρυγιάννης είχε αγοράσει πολλά κτήματα στην περιοχή, που ήταν τότε ακατοίκητη. Ένα μέρος από τα τμήματα αυτά το παραχώρησε στο κράτος –εκεί βρίσκουμε σήμερα τον κήπο του Ζαππείου.
Για όλους αυτούς τους λόγους, η γειτονιά λέγεται «του Μακρυγιάννη» (και όχι «το Μακρυγιάννη»), κατά τα «του Ψυρρή», «του Γουδή», «του Ζωγράφου».
Μια ενδιαφέρουσα ιστορική ειρωνεία: Στο σπίτι του Μακρυγιάννη δείπνησε για πρώτη φορά ως προσκεκλημένος ο νεαρός βασιλιάς Όθωνας, όταν πρωτοήρθε στην Αθήνα. Και στο σπίτι του Μακρυγιάννη έγιναν όλες οι μυστικές συναντήσεις των αντιοθωνικών, και οργανώθηκε η Επανάσταση της 3ης Σεπτεμβρίου 1843.
Το κτίριο Βάιλερ, στο 2 της οδού Μακρυγιάννη, είναι ένα από τα πρώτα κτίσματα της νεότερης Αθήνας. Έργο του μηχανικού, υπολοχαγού του βαυαρικού στρατού Βίλχελμ φον Βάιλερ, στέγασε το πρώτο νοσοκομείο της πόλης, το βαυαρικό στρατιωτικό νοσοκομείο, από το 1836 ως τον Α’ Παγκόσμιο Πόλεμο. Η εντυπωσιακή αρχιτεκτονική του συνδυάζει βυζαντινά με νεοκλασικά στοιχεία.
Η Διονυσίου Αρεοπαγίτου ήταν κάποτε χωματόδρομος, από τον οποίο περνούσε μια από τις πρώτες γραμμές του τροχιόδρομου, το «Θων-Θησείο».
Στη γωνία Καβαλλότι και Μητσαίων, ένα από τα ωραιότερα κτίρια της γειτονιάς, το νεοκλασικό του αρχιτέκτονα Φ. Οικονόμου, που λειτουργούσε ως ξενοδοχείο στις αρχές του 20ου αιώνα, στεγάζει σήμερα το Σουηδικό Αρχαιολογικό Ινστιτούτο.
Τα δύο κτίρια μπροστά από το Μουσείο της Ακρόπολης, που γλίτωσαν στο τσακ την κατεδάφιση όταν πρωτοάνοιξε το μουσείο, είναι η τετραώροφη Αρ Ντεκό πολυκατοικία που χτίστηκε το 1930 σε σχέδια Βασίλη Κουρεμένου και το νεοκλασικό της ίδιας περιόδου, που ανήκει στον συνθέτη Βαγγέλη Παπαθανασίου.
Σχεδόν δίπλα τους, στο 21 της Διονυσίου Αρεοπαγίτου, το πανέμορφο κτίριο που στεγάζει την Ισπανική Πρεσβεία το σχεδίασε ο Τσίλλερ, στα τέλη του 19ου αιώνα.
Ο λιλιπούτειος, πανέμορφος πεζόδρομος της Καλλισπέρη –αυτός με την παιδική χαρά έξω από το 70ο Δημοτικό Σχολείο− πήρε το όνομά του από το αρχοντικό της οικογένειας Καλλισπέρη, στη γωνία της ομώνυμης οδού με την Παρθενώνος. Ο Γεώργιος Καλλισπέρης, που έζησε εδώ από το 1865 έως το 1936, ήταν καθηγητής ρωμαϊκού δικαίου στο Πανεπιστήμιο Αθηνών, ενώ η αδερφή του, Σεβαστή Καλλισπέρη, σπούδασε στη Σορβόνη και έγινε η πρώτη Ελληνίδα διδάκτωρ. Σήμερα, το αρχοντικό τους επιβιώνει μεν, σε μάλλον ερειπιώδη κατάσταση δε.