Margolin 1944'te New York'ta doğdu. 1965'te Washington DC'deki Amerikan Üniversitesi'nden Hükümet'te lisans derecesi aldıktan sonra 1967'ye kadar Liberya'da Barış Gücü gönüllüsü olarak çalıştı . Mezun oldu . 1970 yılında New York Üniversitesi Hukuk Fakültesi'nden mezun oldu ve Perry Mason kitaplarından esinlenerek tercih edilen bir meslek olan bir ceza savunma avukatı olarak 25 yıl çalıştı.
İlk öyküsü olan "Sarı Bikinili Kız" adlı kısa öyküsünü 1974'te yayınladı ve 1996'da tam zamanlı yazar oldu. Ocak 2007 itibariyle 12 kitap yazmıştır.
Philip Margolin, 1968 yılında Doreen Stamm ile evlendi. Ami ve Daniel adlarında iki çocukları oldu. Aynı zamanda bir avukat olan eşi Doreen, Ocak 2007'de kanserden öldü. Phillip Margolin, 2018 yılında Melanie Nelson ile evlendi.
Phillip Margolin aynı zamanda, kar amacı gütmeyen ve "çocukların satranç öğrenerek okulda ve hayatta başarı için gerekli becerileri geliştirmelerine yardımcı olmayı amaçlayan" bir kuruluş olan Başarı için Satranç organizasyonunun da başkanıdır.