Mekke gibi Medine'nin de bilinen en eski halkı Amalika kavmidir. Amalikalıların dağılıp kaybolmalarından sonra İ.Ö. 6. yüzyıl başlarında Babil sürgününden kaçan Yahudiler şehre yerleşmişler ve o zamana kadar Yesrib olarak bilinen şehrin adını bölgede yaygın olan ve kendilerinin de konuştuğu Arami diline çevirerek Medine demişlerdi.
(Medine, Arami dilinde 'şehir' anlamına gelir.)