Cresciuto in Arkansas, da giovane si trasferì sulla costa occidentale e poco dopo a New York. Suonando nei gruppi di John Coltrane e partecipando a numerose sedute di registrazione che diedero vita a pagine fondamentali degli anni '60, Sanders fu determinante nello sviluppo della "New Thing", l'avanguardia che esplorava il terreno del free jazz. Dopo la morte di Coltrane, il suo lavoro fu considerato una continuazione di quello del musicista. Collaborò infatti con Alice Coltrane, e come leader mostrò una spiccata impronta spirituale. Sanders continuò ad incidere ed a calcare le scene fino alla sua scomparsa, avvenuta all'età di 82 anni.
