East St. Louis'de orta halli bir ailede büyüyüp, müziğin farkına 6-7 yaşlarında varan Miles Davis babasının ona hediye ettiği trompetle müziğe ilk adımlarını attı. İlk trompet hocası Elwood Buchanan'ın ona çok emeği geçmiş, onu çok etkilemiştir. İkinci hocası bay Gustav kendi ürettiği trompet ağızlıklarından birini de Miles için yapmıştı. Bu ağızlık özgün sesini yakalamasında yaşamsal rol oynamıştır. Okuduğu okulun orkestrasında ve birkaç R&B grubunda çalmaya başladı. Cazı keşfedince Charlie Parker ve Dizzy Gillespie'nin sesine hayran kaldı.
Dizzy ve Bird'de onu beğendiler ve New York'a davet ettiler. New York'ta gündüzleri müzik okulu Julliard'a gidiyordu. Miles Davis fazla zaman harcamayıp Parker ile 1946'dan 1948'e kadar çaldı. Bu onun ilk tecrübesiydi. Sonra J.J Johnson, Lee Konitz, Gerry Mulligan, John Lewis ve Max Roach gibi mükemmel caz ustalarından oluşan bir grupta çaldı ve sonucu "Birth Of The Cool" albümü oldu.
1950'lilerin başlarında John Coltrane, Red Garland, Paul Chambers, Philly Joe Jones gibi isimlerle çalıştı. Bu grup çok popüler oldu ve Cookin', Steamin', Workin' ve Relaxin' gibi albümler yaptılar. Gil Evans ile çalışırken Porgy and Bess ve Sketches of Spain gibi başarılı albümler yaptılar. En güzel albümü Coltrane, Julian Adderley, Bill Evans, Paul Chambers ve Philly Joe Jones ile yaptığı Kind Of Blue albümü. 1960'lı yıllarda Miles Davis, Wayne Shorter, Herbie Hancock, Tony Williams ve Ron Carter ile çalıştı. Biraz daha deneysel ve karışık, özgün bir caz yaptılar. Sonuç olarak 6-disk setli The Complete Columbia Studio Recordings 1965-1968 albümü ortaya çıktı.
1970'li yıllarda Miles Davis gençlerin rock müziği caza tercih ettiklerini farketti. Ve müziğinde elektro-gitar, bas gitar, org ve amfiye bağlı trompet kullanmaya başladı. Sonucunda "Bitches Brew" adlı albümü 400.000 sattı ve tarihe en çok satan caz albümü olarak geçti. 1970 ve 1980'lerde aynı tarzda devam etti.
Başrolünü Jeanne Moreau'nun oynadığı Louis Malle'in ünlü kara filmi 'Ölüm Asansorü'ne yaptığı müzik bir kült objesi haline gelmiştir.