Paul Rosenberg werd in 1881 te Parijs geboren. Hij was de zoon van Alexander Rosenberg, een handelaar in o.a. impressionistische schilderijen. Van 1902 tot 1905 werkte Paul in Engeland voor het familiebedrijf, waar ook zijn broer Léonce werkte. In 1906 droeg Alexander zijn galerie in de Avenue de l'Opéra over aan zijn zonen. In 1910 begon Léonce voor zichzelf en richtte hij zich op de hedendaagse kunst, terwijl Paul zich bezig hield met de negentiende eeuw.
In januari 1914 opende Paul een galerie in de Rue La Boétie 21 te Paris. Op de begane grond waren de twintig eeuwse werken, op de eerste verdieping de negentiende en oudere werken te zien. Rosenbergs schoonmoeder leefde op de tweede verdieping en het gezin Rosenberg-Loévi op de derde en vierde verdieping. De bedienden waren op de vijfde verdieping gehuisvest.
Een van de eerste exposities was de Exposition d'art français du XIX siècle au profit de l'Association Générale des Mutilés de la Guerre van 25 juni t/m 13 juli 1917. Zowel verzamelaars als kunsthandels hadden werken beschikbaar gesteld om geld in te verzamelen voor in de oorlog gewonde militairen. Paul Rosenberg maakte ruim duizend foto's van de werken van o.a. Maria Blanchard, Georges Braque, André Derain, Marie Laurencin, Fernand Léger en Henri Matisse.
In januari 1918 bezocht Pablo Picasso de galerie van Paul Rosenberg om Lezende vrouw van Renoir voor 8.500 francs te verkopen om financiën te verkrijgen. De kennismaking werd in de zomer van 1918 voortgezet, toen Picasso en zijn vrouw Olga na hun huwelijk op 12 juli hun wittebroodsweken doorbrachten in de villa La Mimoseraie van Eugenia Errazuriz vlak bij Biarritz. Paul Rosenberg en zijn zakenpartner Georges Wildenstein hadden villa's aan dezelfde weg gehuurd. Picasso maakte portretten van o.a. Pauls vrouw Marguerite en dochter Micheline. Na gesprekken bood Rosenberg aan om Picasso wereldwijd te gaan vertegenwoordigen en elk jaar een groot aantal werken af te nemen. De mondelinge overeenkomst zou tot het uitbreken van de Tweede Wereldoorlog standhouden, ondanks dat Wildenstein in 1932 eruit stapte. Picasso verliet met deze nieuwe overeenkomst Pauls broer Léonce. Eind 1918 kocht Paul Rosenberg voor 55.000 FF werken van Picasso, waaronder het nevenstaande portret van zijn vrouw en dochter.
Van 20 oktober t/m 15 november 1919 stelde Paul Rosenberg 167 tekeningen en aquarellen van Picasso tentoon. Aanwezig waren vooral werken die door Picasso in de zomer aan de Côte d'Azur waren gemaakt. Op 7 januari 1920 kocht Rosenberg voor 17.000 francs vijf schilderijen van Picasso, waaronder de twee nevenstaande kubistische: Groen stilleven uit 1914 en Meisje met een hoepel uit 1919. Van 23 mei tot 11 juni 1921 hield Paul Rosenberg opnieuw een tentoonstelling van 39 werken van Picasso. Op 30 mei 1921 kocht Rosenberg een aantal kubistische werken op de veiling van het geconfisqueerde bezit van Wilhelm Uhde in Hôtel Drouot.
Paul Rosenberg was ook de kunsthandelaar van Henri Matisse. Paul Rosenberg organiseerde ook een expositie voor Marie Laurencin in 1921, toen Laurencin uit Spanje was teruggekeerd naar Parijs. In 1921 werd Rosenbergs zoon Alexander geboren en Picasso, die sinds oktober 1918 naast Rosenberg woonde, ging als getuige mee naar de burgelijke stand om Alexandre aan te geven. In 1923 sloot Rosenberg een contract met Georges Braque, die gebroken had met Pauls broer Léonce.
Na de Eerste Wereldoorlog maakte Rosenberg jaarlijks en reis naar de Verenigde Staten om zijn kopers, zowel particulieren als musea, aan zich te binden. In 1923 ging Rosenberg een overeenkomst aan met Wildenstein and Company uit New York, die tot 1930 zou duren. In januari 1925 kocht Paul Rosenberg van Picasso het nevenstaande schilderij Harlekijn en vrouw met halsketting uit 1917 voor 50.000 francs. Denkelijk was dat tien keer de prijs die hij in 1918 betaald zou hebben.
In 1931 hield Paul Rosenberg een expositie van werken van Manet, Renoir, Cézanne en Corot. In hetzelfde jaar ook voor Braque, Matisse, Picasso, Laurencin en Léger. Zie nevenstaande foto. In 1932 kwam een eind aan de samenwerking tussen Rosenberg en Wildenstein, daar Rosenberg ontdekte, dat Wildenstein en Rosenbergs vrouw Marguerite een liefdesrelatie hadden.
In 1935 opende Paul ook een kunsthandel in Bruton Street 31 te London onder leiding van zijn zwager Jacques Helft met de naam Rosenberg & Helft. Vlak voor de Tweede Wereldoorlog hielp Rosenberg de kunsthistoricus Alfred H. Barr bij de organisatie van een grote retrospectieve expositie van meer dan 300 werken van Picasso in het Museum of Modern Art te New York en het Art Institute te Chicago. De opening was in november 1939.
Na het uitbreken van de Tweede Wereldoorlog huurde Rosenberg in oktober 1939 de villa Le Castel in Floirac, een plaats op 5 km oostelijk van Bordeaux, terwijl Alexander achterbleef in Parijs voor zijn studie aan de Sorbonne. Rosenberg verborg honderd schilderijen in de villa en 162 in een kluis van de bank Banque Nationale pour le Commerce et l'Industrie (=BNCI) te Libourne, die hij op 22 juni 1940 gehuurd had. Een klein deel bleef achter in de Rue la Boétie 21 te Parijs. In de nacht van 14 juni 1940, toen het Duitse leger Parijs binnentrok, vluchtten het gezin Rosenberg en de gezinnen van zijn twee zussen, die getrouwd waren met de broers Jacques en Yvon Helft naar de grensplaats Hendaye. De galerie werd volgens de schrijver Pierre Assouline voorlopig voortgezet door Octave Duchez. Op 17 juni passeerden de families de grens, maar Alexandre en zijn twee neven werden tegengehouden door de Franse politie aangezien ze ouder dan achttien jaar waren. Alexandre ontsnapte via een boot in de haven van Saint-Jean-de-Luz naar Engeland, waar hij dienst nam bij het vrije Franse leger. Met behulp van Amerikaanse vrienden kreeg Rosenberg in Lissabon in augustus 1940 visa voor de gehele familie. In september 1940 kwam Rosenberg vanuit Lissabon naar New York. De werken, die hij naar Londen had gestuurd, liet Rosenberg naar New York opsturen, waar hij op East 57th Street 15 in 1941 een galerie opende. Hier vertegenwoordigde hij vele Amerikaanse en Europese kunstenaars. In maart 1941 kreeg Rosenberg van zijn assistente Roisneau te horen dat Rosenbergs bezit geconfisqueerd was door de Duitse bezetter.
Na de oorlog probeerde Rosenberg zijn gestolen kunstwerken terug te krijgen. In september 1945 reisde hij door Zwitserland en bezocht hij galerieën en verzamelaars. Hij zag vele schilderijen uit zijn bezit. De schilderijen van hem die hij bij de verzamelaar Emil G. Bührle ontdekte zou hij kunnen kopen voor de prijs, die Bührle betaald had aan Theodor Fischer en Toni Aktuaryus. Bührle moest de schilderijen na de z.g. Raubgut-Prozessen aan Rosenberg teruggeven en kocht de werken daarna van Rosenberg. Paul Rosenberg overleed in 1959.
Het archief van Paul Rosenberg is ondergebracht in het Museum of Modern Art te New York en een overzicht is te lezen via de webpagina The Paul Rosenberg Archives.