By 
Herb Ellis je rođen 4. avgusta 1921. godine u Farmersvilu, u državi Teksas. Na državnom univerzitetu Severnog Teksasa studirao je kontrabas jer nije bilo gitarskog smera, a zbog besparice je 1941. godine napustio koledž i krenuo na šestomesečnu turneju sa bendom s Univerzizeta Kanzasa.
Godine 1943. pridružuje se Glenu Grayu i njegovom Casa Loma Orchestra, gde po prvi put privlači pažnju džez kritičara. Prelazi u bend Jimmyja Dorseya, s kojim nastupa od 1945. do 1947. godine. Sa basistom Johnnyjem Frigom i pijanistom Luom Carterom osniva sastav The Soft Winds, s kojim radi sve do 1952. godine i prelaska u Oscar Peterson Trio umesto dotadašnjeg gitariste Barneya Kessela. Njegovo članstvo u tom sastavu je, u neku ruku, bilo ispunjeno i kontroverzom, budući da je bio jedini belac u bendu dok je rasizam u Americi još uvek bio veoma raširen.
Ova postava je radila i kao “kućna ritam sekcija” u Norman Granzovom Verve Recordsu, prateći slavne muzičare poput Bena Webstera, Stana Getza, Dizzyja Gillespiea, Roya Eldridgea, Elle Fitzgerald i Louisa Armstronga.
Nakon odlaska iz Petersonovog trija 1958. (zamenio ga je još jedan muzičar koji je nedavno preminuo – bubnjar Ed Thigpen), išao je na dvogodišnju turneju s Ellom Fitzgerald.
U godinama koje su usledile najveću pažnju je privukao saradnjama sa gitaristima – Charliejem Byrdom, Joe Passom (ranih sedamdesetih), i naposletku formirajući postavu Great Guitars sa Byrdom i Kesselom.
By 
