En 1961, il cherchait déjà à faire autre chose, laissant derrière lui le torrent harmonique de « Giant Steps ». Il explorait résolument d’autres éléments venus d’ailleurs: ses drones avaient visité la musique nord-africaine et indienne; il expérimentait des phrasés mélodiques sans cesse fragmentés. Un des premiers biographes de Coltrane, C.O. Simpkins, a décrit les spectacles du « quartet classique » dans ces années là comme une sorte de « nettoyage euphorique ». Le quartet, écrit-il, «battrait l’air impur jusqu’à ce qu’il implore la pitié».
Il est très étrange qu’un « improvisateur » de musique d’une telle rigueur puisse aussi produire des succès commerciaux. En effet, peu de temps après avoir produit  un méga-hit avec « My Favorite Things », Bob Thiele s’est attelé à fournir à « Impulse ! » un flux de projets faciles d’accès au grand public. Les titres des autres albums que le producteur attitré de cette compagnie a réalisés en 1963 avec Coltrane  parlent d’eux-mêmes : « Ballads », « Duke Ellington et John Coltrane » et « John Coltrane et Johnny Hartman ». Certes, les albums, « Coltrane » et « Crescent », sortent de la logique du « facile à écouter » : on y entend du blues profond suivi de longs chants sans mots, avec plein de notes, soutenus par une dynamique explosive et rythmée. Mais durant les deux années qui séparent ces deux albums – du printemps 1962 au printemps 1964 – les fans du « Coltranisme pur et dur» n’ont rien eu à se mettre dans les oreilles pour sortir des sentiers battus.