I Dillon Fence provengono da Chapel Hill (Carolina del Nord) e suonano un alt-rock altamente emotivo. Il fattore chiave è il cantante Greg Humphreys, un cantautore insicuro e romantico che è una sorta di controparte maschile di Juliana Hatfield.
Hanno dimostrato una straordinaria capacità di catturare i sentimenti della loro generazione con la delicata ballata Christmas (1991) e le gemme introverse e pudiche di Rosemary (Mammoth, 1992): Daylight e Hey Mockinbird.

Outside In (Mammoth, 1993) soffre di un'eccessiva autoindulgenza e di un suono che si avvicina pericolosamente al pop morbido degli Smiths (Black Eyed Susan, Any Other Way). Sparse tracce di punk-pop (One Bad Habit, Headache) accrescono l'appeal commerciale della band.

Living Room Scene (Mammoth, 1994) è ancor più melodico e passionale. Quanto meno la maturazione da pivello piagnucoloso ad adulto sicuro di sé è stata impressionante.

Si sono sciolti nel 1995 dopo che i demo per un quarto album vennero rifiutati dalla loro casa discografica.

Si sono riuniti sei anni dopo per un tour, in occasione del quale hanno registrato Live at the Cat's Cradle (Phrex, 2001).

Best+ (MoRisen, 2004) è una retrospettiva della carriera.