Nichols nacque a New York e iniziò la sua carriera suonando jazz tradizionale. Strinse amicizia con Thelonious Monk al Minton's Playhouse prima di essere chiamato alle armi. Dopo la guerra registrò un album per Blue Note, ma rimase sostanzialmente sconosciuto fino a quando alla sua composizione "Serenade" non venne aggiunto un testo: divenne così "Lady Sings The Blues", cavalo di battaglia di Billie Holiday. Morì di leucemia a soli 44 anni. Le sue composizioni e le incisioni - spesso viosionarie, e indebitamente accostate allo stile di Thelonious Monk - hanno riscosso una maggior fortuna postuma, anche grazie alla ripresa della sua musica da parte di musicisti di varia estrazione, da Mary Lou Willians e Roswell Rudd (quest'ultimo anche insieme a Steve Lacy).
