Het Museum of Modern Art opende zijn deuren op 7 november 1929. Het initiatief werd vooral genomen door drie vrouwen, n.l. Lillie P. Bliss, Mary Quinn Sullivan en Abby Aldrich Rockefeller. Lillie P. Bliss verzamelde Post-Impressionisten en de toenmalige hedendaagse kunst. Zij was bevriend met Arthur B. Davies, een van de organisatoren van de Armory Show. Zij kocht van deze tentoonstelling een vijftal schilderijen en een aantal tekeningen, waarmee zij haar verzameling begon. Op haar aandringen werd in 1921 door het Metropolitan Museum of Art de eerste tentoonstelling van moderne kunst, n.l. van impressionisten tot en met Picasso's pre-kubistische periode gehouden. De reacties waren zo negatief dat het Metropolitan geen verdere tentoonstellingen van moderne kunst hield. Dit speelde mee met het werken aan een apart museum voor moderne kunst.
Mary Quinn Sullivan was een kunstdocente, die ook een aantal werken op de Armory Show had gekocht en daarmee haar verzameling begon. Abby Aldrich Rockefeller, de dochter van de senator van Rhode Island, Nelson W. Aldrich, had door haar vader belangstelling in kunst gekregen. Samen hadden zij verschillende reizen naar Europa gemaakt. Abby Aldrich Rockefeller was van menig dat Amerika zowel een museum voor moderne kunst uit Europa als voor de Amerikaanse hedendaagse schilders nodig had. Zij had zelf een galerie op de bovenste verdieping van haar huis in de West Fifty-fourth street.
Tijdens een vakantiereis in het Midden-Oosten ontmoetten Lillie P. Bliss en Abby Aldrich Rockefeller elkaar toevallig op 7 maart 1929. Na terugkeer vond Abby Aldrich Rockefeller een gewillig oor bij Mary Quinn Sullivan voor het oprichten van een museum. In mei 1929 werd de eerste stap gezet door het benoemen van A. Conger Goodyear, die president was van het Albright Art Gallery in Buffalo, tot voorzitter van een stichting. Hij had naam gemaakt door het houden van een moderne kunst tentoonstelling met een deel van het Katherine Dreier's avant-garde Société Anonyme collectie. Op 19 september 1929 werden de papieren voor het oprichten van het Museum of Modern Art getekend en werd Alfred H. Barr Jr. de eerste directeur.
De eerste jaren werden vanaf 8 november 1929 tentoonstellingen gehouden in een tentoonstellingsruimte op de twaalfde verdieping van het Heckscher Building op de hoek van de Fifth Avenue en Fifty-seventh Street. De eerste tentoonstelling Cézanne, Gauguin, Seurat, van Gogh met resp. 35, 21, 17 en 28 werken trok meer dan 49.000 bezoekers in vijf weken tijds. De tweede tentoonstelling, Paintings by Nineteen Living Americans, met o.a. werken van Max Weber, Georgia O'Keeffe en Lionel Feiniger, trok slechts de helft van het aantal bezoekers. Ook daarna wisselde Europesche en Amerikaanse kunst elkaar af.
Op 12 maart 1931 stierf Lillie P. Bliss en liet, op voorwaarden dat haar bezit zou worden tentoongesteld, haar verzameling met o.a. 66 werken van Cézanne (21), Gauguin, Matisse, Modigliani, Picasso, Seurat, Degas, Derain, Pissarro, Redon, Renoir na aan het museum. Mede door de financiële depressie was het moeilijk voldoende middelen te krijgen, maar door de succesvolle tentoonstellingen probeerde Barr de stichters over te halen een eigen collectie op te bouwen en daarmee ook de erfenis van Lillie P. Bliss binnen te halen.
In mei 1932 verhuisde het museum naar een door John D. Rockefeller Jr. beschikbaar gesteld huis aan de West Fifty-third Street 11. Op de tentoonstelling Modern Works of Art, die gehouden werd om het vijfjarig bestaaan te vieren, werd een groot deel van Lillie P. Bliss' schenking getoond. Dankzij haar schenking kwamen er ook andere schenkingen aan het museum.
In 1936 werd de tentoonstelling Cubism and Abstract Art gehouden en dankzij de verkoop van een schilderij uit de nalatenschap van Lillie P. Bliss werd in 1939 het schilderij Les Demoiselles d'Avignon van Pablo Picasso aangekocht. Dit schilderij werd de blikvanger van de eerste tentoonstelling na de uitbreiding van het museum Art in Our Time met een nieuw gebouw, dat ontworpen was door Philip L. Goodwin en Edward D. Stone. In 1939 werd ook de tentoonstelling Picasso: Forty Years of His Art gehouden
In 1945 verkreeg het museum een aantal belangrijke kubistische werken, o.a. Braques Man met een gitaar, Picasso's Ma Jolie en Kaartspeler, Légers Big Julie, en Duchamps De overgang van maagd naar bruid. In 1948 stierf Abby Rockefeller-Aldrich, die samen met haar man en haar zoon Nelson A. Rockefeller veel voor het museum betekenden.
Tijdens een renovatie brak er in mei 1958 in het museum brand uit. De brand werd snel geblust, maar o.a. het belangrijke werk Waterlelies van Monet ging verloren. In 1964 werd het museum uitgebreid met nieuwe vleugels, waardoor de eigen collectie naast de tijdelijke getoond kon worden. Dankzij een samenwerking met de Franse Staat kon het museum in 1980 de tentoonstelling Pablo Picasso: A Retrospective houden.
In 1996 ontving het museum uit de nalatenschap van Florene Schoenborn het schilderij Femme avec Poires van Picasso uit 1909. Picasso's vriendin Fernande Olivier stond hiervoor model. Ook een studie voor het schilderij De Stad van Léger uit 1919 was onderdeel van de nalatenschap, die in totaal 14 kunstwerken bevatte.
Zie voor de aanwezige werken de webpagina: Aanwezige kubistische werken in het Museum of Modern Art te New York.