XIX. yüzyılda Avusturya-Macaristan İmparatorluğu'nda Yahudi bir ailede doğmuştur.
O dönemde Musevî uyrukluların doğumlarını kaydetmeleri yasal olarak gerekmediği içinde doğum tarihi net değildir.
Yahudi olmasından dolayı sürekli dışlanmış olan Vambery 18 yaşına gelince macera aramaya başlar ve Vambery' i herkesin tanıyacağı hatta devletlerin