De kosmische achtergrondstraling werd voor het eerst voorspeld in 1948 door George Gamow, Ralph Alpher en Robert Herman. Alpher en Herman konden de temperatuur van de kosmische achtergrondstraling 5K bepalen. Ongeveer twee jaar later was hun schatting 28K. Er waren rond deze tijd vele schattingen van de temperatuur van het heelal en deze hadden te lijden onder twee gebreken.
Als eerste waren het metingen van de effectieve temperatuur van de ruimte en hield men geen rekening met het feit dat de ruimte gevuld was met een thermisch Planck spectrum. Als tweede waren ze afhankelijk van onze speciale plaats aan de rand van de Melkweg en hielden geen rekening met het feit dat de straling isotroop is. Voorts zouden zij zeer verschillende voorspellingen uitkomen als de Aarde op een andere plaats was in ons heelal. De resultaten van Gamow en Alpher in 1948 werden niet op grote schaal besproken. In 1960 werd het herontdekt door Robert Dicke en Yakov Zel'dovich in de vroege jaren '60. De eerste gepubliceerde herkenning van de kosmische achtergrondstraling als een detecteerbaar fenomeen verscheen in een brief door de Sovjetse astrofysicus A.G. Doreshkevich en Igor Nokivov in de lente van 1964. In datzelfde jaar begonnen David Todd Wilkinson en Peter Roll, collega's van Dicke op de Princeton universiteit, een Dicke radiometer te bouwen voor de kosmische achtergrondstraling te meten. In 1965 bouwde Arno Penzias en Robert Woodrow Wilson op de Crawford Hill van de Bell Telephone Laboratories nabij New Jersey een radiometer die ze normaal gingen gebruiken voor astronomische en satellietcommunicatie experimenten. Hun instrument had een erg hoge antennetemperatuur van 3.5 kelvin. Na een telefoongesprek naar Crawford Hill zei Dicke de beroemde woorden: "Boys we've been scooped". Een ontmoeting tussen de groepen van Princeton en Crawford Hill bepaalde dat de antennetemperatuur inderdaad te wijten was aan de microgolfachtergrondstraling. Penzias en Wilson ontvingen in 1978 hiervoor de Nobelprijs in de fysica voor hun ontdekking.
Het begrijpen van de kosmische achtergrondstraling was een controversiële kwestie in de jaren '60 met enkele verdedigers van de theorie van het statisch heelal die stelden dat de kosmische achtergrondstraling het resultaat is van versplinterd sterrenlicht van verafgelegen sterrenstelsels. Door dit model te gebruiken en gebaseerd op de studie van smalle absorptielijnen in het spectrum van sterren, schreef de astronoom Andrew McKellar in 1941: "Het kan uitgerekend worden dat de draaibare temperatuur van de interstellaire ruimte 2 Kelvin is". Nochtans werd in de jaren '70 een consensus opgesteld dat de kosmische achtergrondstraling een overblijfsel is van de Big Bang. Dit kwam voornamelijk omdat nieuwe metingen op diverse frequenties aantoonden dat het spectrum een thermisch zwart lichaam spectrum, een resultaat dat in de theorie van het statisch heelal niet kon uitgelegd worden.
Harrison, Peebles, Yu en Zel'dovich realiseerden dat het vroege universum een niet homogeen karakter had op het moment van 10-4 of 10-5. Rashid Sunyaev berekende later de waarneembare afdruk dat deze een niet homogeen karakter op de kosmische achtergrondstraling zou hebben. Toenemende grenzen op de anisotropie van de kosmische achtergrondstraling werden ingesteld door experimenten op de grond maar de anisotropie werd voor het eerst gedetecteerd door het Differential Microwave Radiometer instrument op de COBE satelliet.
Geïnspireerd door de resultaten van de COBE satelliet werden een reeks van grondexperimenten en ballon gebaseerde experimenten uitgevoerd voor de kosmische straling anisotropie te meten. Het hoofddoel van deze experimenten was om de schaal van de eerste akoestische piek, waar de COBE satelliet te weinig resolutie voor had om deze te kunnen onderscheiden, te kunnen meten. Deze metingen toonden aan dat het heelal bijna vlak is en men de kosmische strings kon uitsluiten als groot deel van de kosmische structuurvorming en stelde dat de kosmische inflatie de juiste theorie was bij de structuurvorming.
De tweede piek werd voor het eerst gedetecteerd door verschillende experimenten voordat ze definitief werd vastgelegd door WMAP, die alsook een derde piek wist te detecteren. Verscheidene metingen van de polarisatie en de microgolf achtergrond op kleine schaal worden nu uitgevoerd.
