Josef Golombek ble født inn i en jødisk familie i den polske byen Grojec i 1926. Golombek var 13 år gammel da Nazi-Tyskland angrep Polen, og han sammen med sin mor, far og seks år eldre søster ble pålagt å dele bolig med en annen jødisk familie i byens nyopprettede getto. Senere gikk det ut ordre fra okkupasjonsmakten om at Grojecs jødiske befolkning skulle flyttes til den store gettoen i Warszawa. Derfra ble både faren og moren deportert og drept, mens søsteren, Cipa, antakelig overlevde helt til getto-opprøret i april 1943. Josef Golombek kom seg selv over til den såkalte ariske delen av Warszawa, der han ble involvert i undergrunnsarbeid. Slik fikk han også tak i falske legitimasjonspapirer, med det ikke-jødiske polske navnet Josef Nowak. Golombeks involvering i motstandskampen førte til at Gestapo arresterte ham våren 1943. Grunnet de falske identitetspapirene ble han ikke fengslet som jøde, men som polsk politisk motstander. Han ble senere overført til Auschwitz, og satt mot slutten av krigen også i konsentrasjonsleirene Natzweiler og Dachau. Gjennom hele krigen unngikk han imidlertid å bli avslørt som jødisk. Dette bidro betydelig til at han overlevde det nazistiske leirsystemet. Ved krigens slutt var Golombek sterkt redusert av tuberkulose. Den første tiden etter frigjøringen tilbrakte han på sykehus og i en leir for såkalte "displaced persons". I 1953 kom han som flyktning til Norge, der han fikk videre behandling for sin lungesykdom. Tre år etter giftet han seg med norsk-jødiske Gerd Philipson, som selv hadde overlevd holocaust ved å flykte til Sverige i desember 1942. Ekteparet fikk to barn. I store deler av sitt voksne liv arbeidet Josef Golombek i den elektrotekniske bedriften Per Kure A/S (senere ASEA og ABB). Han ble norsk statsborger, og levde i Norge til sin død i 2010.