Paul Baumgarten 1919 ile 1924 yılları arasında Gdansk Teknoloji Üniversitesi'nde daha sonrada da Berlin Teknik Üniversitesi'nde mimarlık eğitimi aldı. Mezun olduktan sonra Berlin'de yer alan Mebes & Emmerich Mimarlık Şirketi'nde 1928 ile 1932 yılları arasında çalıştı. 1932 yılından itibaren ise bağımsız olarak çalışmaya başladı.

1934 yılında Berlin'in Charlottenburg Semtin'de yer alan Atık Transfer İstasyonu'nu (Müllverladestation AG) tasarladı. Bu yapı Nazi Almanyası'nın en ünlü Modernist yapıları arasında sayılır.

1937 ile 1945 yılları arasında Philipp Holzmann AG inşaat şirketinin inşaat bölümünü yönetti. 1952 yılında ise Berlin Sanat Üniversitesi'nden profesörlük ünvanını aldı.

Katkıda bulunduğu yapılar arasında en çok tanımış olanı Reichstag'ın restorasyonu projesidir.