A Manchester Cityt West Gorton (St Mark's) néven 1880-ban alapította Anna Connel és a St. Mark's templom két gondnoka, akik Manchester Gorton nevű kerületében, egy vasgyárban is együtt dolgoztak. 1887-ben a gárda új pályára, a Hyde Roadra költözött, mely a város Ardwick nevű részén volt, keletre a központtól. A csapat új neve Ardwick AFC lett. 1892-ben alapító tagjai lettek a Labdarúgó Liga másodosztályának. Az 1893–94-es idényben anyagi gondjaik támadtak, ami miatt újraalakultak Manchester City FC néven.

A City első sikerét 1899-ben érte el, amikor megnyerte a másodosztályt, így feljutott az élvonalba. 1904. április 23-án megnyerték első komolyabb trófeájukat, mikor a Bolton Wandererst 1–0-ra verték az FA-kupa döntőjében. A duplázáshoz sem sok kellett volna, hiszen a bajnokságban másodikok lettek. Nem sokkal a kupasiker után a csapat büntetést kapott, mivel az Angol Labdarúgó-szövetség által meghatározott összegnél nagyobb fizetést adtak néhány játékosuknak. 1906-ban 17 játékost tiltottak ki a Kékektől, köztük Billy Meredith-et is, aki a város másik csapatához, a Manchester Unitedhez igazolt. 1920-ban egy tűzvészben elpusztult a Hyde Road főlelátója, így a klub 1923-ban átköltözött a Maine Roadra.

Az 1930-as években a manchesteriek egymás után kétszer is bejutottak az FA-kupa fináléjába. 1933-ban vereséget szenvedtek az Evertontől, de egy évvel később legyőzték a Portsmouth-t. 1937-ben megnyerték első bajnoki címüket, de rögtön a következő szezonban kiestek, bár minden csapatnál több gólt szereztek. Az 1950-es években szintén két egymást követő FA-kupa-döntő következett, melyek közül az elsőt elvesztette, a másodikat megnyerte a City csakúgy, mint 20 évvel korábban. 1955-ben a Newcastle United volt az ellenfél, 1956-ban pedig a Brimingham City. Utóbbit 3–1-re verte a csapat úgy, hogy Bert Trautmann kapus törött nyakkal játszott.

1963-ra ismét a másodosztályban találta magát a gárda, 1965 januárjában a Swindon Town elleni meccsükre mindössze 8015 néző volt kíváncsi, ez máig élő negatív rekord. Nyáron Joe Mercerre és segédjére, Malcolm Allisonra bízták a csapat irányítását. Első szezonjában Mercer feljuttatta a Cityt az élvonalba és tehetséges játékosokat igazolt, például Mike Summerbee-t és Colin Bellt. Az 1967/68-as idényben aztán megnyerték második bajnoki címüket, azzal, hogy a szezon utolsó napján 4-3-ra verték a Newcastle Unitedet. 1969-ben ismét megnyerték az FA-kupát, így a következő idényben indulhattak a KEK-ben, melyet a Górnik Zabrze elleni bécsi döntőn meg is nyertek. A Ligakupát is hazavihették, amivel az övék lett a második csapat, mely egy szezonon belül nemzetközi és hazai trófeát is nyert.

A trófeákért való küzdelem az 1970-es években is folytatódott, kétszer másodikok lettek a bajnokságban, 1974-ben pedig bejutottak a Ligakupa-döntőbe, de ott kikaptak. Az egyik legemlékezetesebb pillanat az 1973–74-es idény végén jött el a City számára. Ekkor a nagy rivális Manchester Unitednek győznie kellett volna, hogy elkerülje egy kiesést, de éppen egy korábbi Vörös Ördög, Denis Law gólja ejtette ki őket. Utolsó nagy trófeájukat 1976-ban nyerték, amikor a Newcastle United elleni győzelemmel elhódították a Ligakupát.

Az 1960-as és 1970-es évek sikereihez képest a jövő visszaesést hozott a klub számára. 1979-ben Malcolm Allison lett a menedzser, aki nagy összeget költött új játékosokra, például Steve Daley-re, de egyikük sem vált be. A vezetőedzők folyamatosan váltakoztak, csak az 1980-as években hét különböző mester ült a kispadon. 1980-ben ugyan bejutottak az FA-kupa döntőjébe, de kikaptak a Tottenham Hotspur elleni megismételt találkozón. 1983-ban és 1987-ben is kiestek az élvonalból. 1989-es visszajutásuk után ötödikként végeztek a Division One-ban, ekkor Peter Reid volt a mesterük. Távozása után azonban ismét romlott a manchesteriek formája. 1992-ben alapító tagjai lettek a Premier League-nek, majd 1996-ban kiestek. Két szezonnal később elérték történetük legrosszabb pontját, ők lettek az első nemzetközi sikereket elért csapat, mely kiesett a harmadosztályba.

A kiesés után az új elnök, David Bernstein nagyobb pénzügyi fegyelmet követelt meg, mivel elég kaotikus állapotok uralkodtak a pénzügyeket illetően. A City első próbálkozásra visszajutott a másodosztályba, a rájátszás döntőjében a Gillinghamet verték. Ezt követően zsinórban másodszor is feljutottak, de a Premier League még túl erősnek bizonyult nekik és 2001-ben kiestek. Az új idény kezdete előtt Kevin Keegan vette át a gárda irányítását. A 2001–02-es idényben megnyerték a másodosztályt, közben klubrekordnak számító pontot szereztek és gólt lőttek.