Gelb 1907. október 14-én született a lengyelolrszági Tarnowban. Gimnazistaként lelkesen falta Jókai Mór egyik könyvét, amelynek hőse, Barkó Pál, a magyar nép őshazájának keresése közben egész Belső Ázsiát bejárja. E mű hatására dönt a keletkutatás mellett. Amikor 1929-ben megszerzi a római egyetemen a bölcsészdoktori címet, értekezése Kisázsia akkor ismert legkorábbi történetéről szólt.