Cantante purosangue che si circondava di band compatte e graffianti, Joe Ely (Lubbock, 1947) è riuscito a ridefinire il rock proletario del profondo Sud prendendo il passionale country-rock di Gram Parsons e lasciandolo evolvere verso un suono più viscerale.

Dopo aver debuttato con i Flatlanders insieme a Butch Hancock e Jimmy Gilmore, Ely ha debuttato come solista con Joe Ely (MCA, 1977), un album di country-rock ingenuo.
Le canzoni migliori sono infatti scritte da Butch Hancock, ma Ely le canta con tono e fraseggio aspri. Cinque tracce, tuttavia, sono originali.

È proprio questo stile vocale anomalo a rappresentare la grande novità dell'ambizioso e rivoluzionario (per la musica country) Honky Tonk Masquerade (1978), dove i suoi lamenti accorati (soprattutto Because Of The Wind e la title track, fortemente lirica) si fondono con fisarmonica e fiati per produrre un suono molto più aggressivo, avendo assorbito rock and roll, honky-tonk, boogie e rhythm'n'blues (Fingernails, Cornbread Moon).

Ely sembra posizionarsi come il nuovo Gram Parsons, ma gli album Down On The Drag (1979) e Musta Notta Gotta Lotta (1981) - in particolar modo Crazy Lemon nel primo e Musta Notta Gotta Lotta e I Keep Gettin' Paid The Same nel secondo - esagerano con la componente rock'n'roll a tal punto da sfiorare il boogie elettrico del Southern rock.

Migliore come band-leader e rocker che come cantautore o compositore, Ely ha sempre dovuto fare affidamento sul "suono".
Tuttavia, gli arrangiamenti elettronici e le chitarre heavy metal di High-Res (1984) spinsero un po' troppo oltre l'idea, e ben poco sopravvisse al naufragio (What's Shaking Tonight, Cool Rockin' Loretta, She Gotta Get The Gettin', Letter To Laredo).

Il più umile Lord of the Highway (Hightone, 1987) conteneva la sua dose di frenesia (Everybody Got Hammered, Are You Listenin' Lucky) ma anche la profonda meditazione di Letter to LA.

Tutte le canzoni di Dig All Night (1988) furono scritte da Ely, ma questo dimostrò esattamente l'opposto di ciò che intendeva: che Ely senza le canzoni di Hancock non era esattamente lo stesso Ely (Settle For Love).

Il relativamente pensieroso Love And Danger (MCA, 1993) contiene ancora la sfrenata vivacità di Highways and Heartaches.

Il concept Letter To Laredo (MCA, 1995) presenta un chitarrista flamenco e un suono più calmo ed esotico.

Twistin' In The Wind (MCA, 1998) utilizza quell'idea per creare una raccolta atmosferica e suggestiva.

Ely ha anche contribuito a Los Super Seven (RCA, 1999), un supergruppo con Freddy Fender, Flaco Jimenez, David Hidalgo e Cesar Rosas dei Los Lobos, ecc.

Streets Of Sin (Rounder, 2003), il primo album in studio in cinque anni, è un lavoro malinconico e riflessivo, nonostante Fightin' for My Life e 95 South. E così pezzi come Wind's Gonna Blow You Away e Flood on Our Hands non hanno l'energia necessaria per reggere il confronto con i suoi lavori migliori.

Hancock, Joe Ely e Jimmy Gilmore hanno riformato i Flatlanders per Hills And Valleys (2009).

Happy Songs From Rattlesnake Gulch (2007), Satisfied at Last (2011), Panhandle Rambler (2015), Love in the Midst of Mayhem (2020), Flatland Lullaby (2022), Driven to Drive (2024) e Love and Freedom (2025) hanno aggiunto ben poco al suo miglior repertorio.

Ely, affetto da Parkinson e demenza di Lewy, è morto a Taos, in Messico, nel dicembre 2025, all'età di 78 anni.