Abercrombie, 19 Aralık 1909'da Birkenhead'de doğdu. Babası Lascelles Abercrombie bir şairdi ve annesi Catherine, evlilik öncesi soyadı Gwatkin olan, üç kardeşinden biriydi; diğer kardeşi biyolog Michael Abercrombie idi. I. Dünya Savaşı'nın patlak vermesiyle Ryton, Gloucestershire'da büyüdü ve 1922'de babası Leeds Üniversitesi'nde İngiliz Edebiyatı kürsüsüne getirildiğinde Cheshire'a döndü ve Leeds'e taşındı.
Çocukken Leeds Grammar Okulu'na gitti ve daha sonra Leeds Üniversitesi'nde İngilizce okudu. Eğitimine Daniel Jones'un gözetiminde University College London'da fonetik üzerine yüksek lisans eğitimi alarak devam etti.
1948'de Edinburgh Üniversitesi'nde Fonetik öğretimi yapmaya başladı; 1964'te profesör unvanını aldı.