1957 yılında Adıyamanlı Kürt bir baba ile Erzurumlu bir Türk annenin beşinci çocuğu olarak Malatya Arguvan'da doğdu. Ahmet Kaya Kürttür.Babası Sümerbank mensucat fabrikasında çalışan bir işçiydi. İlkokulu Malatya'da okudu ve kendi hayatını anlattığı bir belgeselde müzikle altı yaşında babasının hediye ettiği bağlama ile tanıştığını söyler. Okuldan geri kalan zamanlarında plak ve kaset satan bir dükkânda çalışmaya başladı. Ailesinin geçim sıkıntısı çekmesi nedeniyle 1972'de İstanbul Kocamustafapaşa'ya göç ettiler ve okulu bıraktı. İşportacılık ve çıraklık gibi çeşitli vasıfsız işlerde çalıştı. Bu dönemde küçük bir yerleşim yerinden büyük bir şehre taşınmanın ve alışmanın sıkıntılarını yaşadı. Bu sıkıntılarını Aynalar isimli belgeselde şöyle dile getirdi:

« Onlarla konuşmuyordum çünkü onlarla konuşamıyordum. Giyimleri başkaydı, konuşmaları başkaydı. Onlar gibi konuşmaya çalışıyordum. Mesela terziye gidip, onlar gibi pantolon diktirmeye filan başlamıştım. Terzinin yaptırdığı pantolonların üzerime uymadığını görüyordum. Onlara yakışıyordu bana yakışmıyordu. Bir kız vardı bizim okulda; herkesin bir aşkı vardır, çocukluk aşkı. Bir gün gittim dedim ki: 'Biraz seninle konuşak beş dakika, kaçıyorsun hep...' Bana dedi ki: 'Rica ederim.' Öyle bir ağrıma gitti ki: 'Ben de sana rica ederim,' dedim.. Ben o zaman anlamını bilmiyordum, yani onu bir küfür zannettim.»

16 yaşında yasak afiş basmaktan hapse atıldı. Daha sonra birkaç arkadaşıyla birlikte Halk Birimleri Derneği'nin çalışmalarına katıldı. Bu çalışmaları sırasında çeşitli etkinliklerde bağlama çalmaya devam etti. 1 Mayıs 1977 yılında oldu. Boğaziçi Üniversitesi'nde yapılan bir etkinlikte Ruhi Su ile tanışma fırsatı buldu, Mahsus Mahal isimli Ruhi Su türküsünü söyledi. 1978 yılında Gelibolu'da askerlik yaptı, bu arada orkestrada müzik çalışmalarına devam etti. Askerlik dönüşü Emine Kaya ile evlendi ve 1982 yılında kızları Çiğdem doğdu.