Считается, что первым поселением на месте современного Мадрида был небольшой исламский гарнизон. В 854 году эмир Cordoba основал крепость на плато. Это гарнизон стал известен как Magerit и входил в вереницу фортов, расположенных по линии границы между Al-Andalus на юге и христианских королевствах на севере. Мусульманская эра Мадрида закончилась в 1085, когда область перешла под владение Короля Альфонсо VI Кастильского. Население города в это время насчитывало около 12 000.

В то время как Мадрид оставался небольшим провинциальным городом, Изабелл и Фердинанд объединили короны Кастилии и Арагона в 1474 году. Гранада, последняя мусульманская цитадель на полуострове, была захвачена в 1492 году, и в том же самом году Колумб отправился в путешествие, которое принесло Испании мощь и богатство. Изабелл и внук Фердинанда, Карлос I, наследовавший не только трон Испании, но и корону Габсбургов, став Святым римским Императором.

Таким образом, корона Испании объединила земли от Австрии до Голландии и от Испании до американских колоний. Сын Карлоса и преемник, Филипп II, назначили Мадрид постоянным местом королевского суда в 1561 году. Мадрид стал городом иммигрантов с населением около 150000 к 1656 году.

Правление Габсбургов Испании окончилось в 1700 году со смертью Карлоса II. Процветающий средний класс появился в городе в 1837 году, когда Церковная собственность была конфискована правительством. Около 1600 церквей были разрушены в Мадриде за первые четыре десятилетия 19-ого столетия.

В 1875 году в Испании была восстановлена монархия, и власть перешла к Бурбонам. В первые десятилетия 20-ого столетия в Мадриде были проведены значительные усовершенствования уровня жизни, началось строительство линии метро. Население города насчитывало почти миллион человек к 1931 году.

В 1930 году король Альфонсо XIII сбежал из страны, а Мадрид был официально признан столицей. До 1960 город переживал жесточайший экономический кризис. С Королем Хуаном Карлосом на троне, Испания сделала переход из диктатуры к демократии с назначением умеренного правительства консерваторов.