Kemal Derviş 1949 yılında İstanbul'da dünyaya gelmiştir. Alman bir anne ve Türk bir babanın çocuğudur.
İngiltere'de Londra Ekonomi Okulundan ekonomi alanında lisans ve lisansüstü dereceleri almıştır.
Derviş, ardından 1973-1977 yılları arasında ODTÜ ve Princeton Üniversitesinde ders vermiştir.
1977 yılında Dünya Bankasında görev almaya başlamış ve bu görevini 22 yıl boyunca sürdürmüştür. Burada Ortadoğu ve Kuzey Afrika'dan sorumlu başkan yardımcılığı yaptı.
Şubat 2001 krizi ardından 13 Mart 2001 tarihinde Ekonomiden Sorumlu Devlet Bakanlığı görevini üstlendi.
2002 Ağustos'ta dönemin başbakan yardımcısı Devlet Bahçeli ile görüş ayrılığına düşerek görevinden istifa etti. 3 Kasım 2002 seçimlerinde CHP'den İstanbul milletvekili seçildi. 9 Mayıs 2005 tarihinde milletvekilliğinden istifa etti.
Derviş, 8 Mayıs 2023 tarihinde 74 yaşındayken hayata gözlerini yumdu.