Jonesa se najbolje spomnimo kot ritmične gonilne sile v zasedbi John Coltrane Quartet, priznani džezovski skupini šestdesetih. V svoji bogati glasbeni karieri je igral z mnogimi velikani džeza, med drugim tudi z Budom Powellom, J. J. Johnsonom, Milesom Davisom, Sonnyjem Rollinsom.

Zasedbi Johna Coltrana se je pridružil leta 1960 in tam ostal bobnar kar šest let. Po odhodu iz skupine je ostal dejaven in še naprej igral in snemal plošče z drugimi džezovskimi
zasedbami.