Ankara Hukuk Fakültesi'nde öğrenimini tamamladıktan sonra müzikal kariyerine 1960'larda başladı. Romantik folk ve rock tarzında deneysel müzikler yaptı. Birçok Fransız chanson'unun ve İtalyan napolitan'larının aranjmanlarını Türkçeye uyarlıyarak seslendiren sanatçı "Eylül'de Gel" ve "Fabrika Kızı" gibi hit şarkılara imza atmıştır.
Alpay, Gezi olayları sırasında Ankara'da başından vurularak öldürülen Ethem Sarısülük için "Ethem'in Sessiz Çığlığı" adlı bir şarkı yaptı.
Tatil geldiği zaman
Ağlarım ben inan
Gidiyorsun işte
Arkana bakmadan
Nasıl geçer bu yaz
Ne olur bana yaz
Sen sen sen
Sen bir ömre bedel
Yok yok yok
Gitme gitme gel
Eylülde gel
Okul yolu sensiz
Ölüm kadar sessiz
Geçtim o yoldan dün
İçim doldu hüzün
Yapraklar solarken
Adını anarken
Bekletme ne olur
Gelmek zamanı gel
Yok yok yok
Gitme gitme gel
Eylülde gel