Gli OHO si formarono nel 1973 a Baltimora come trio: il chitarrista Joe O'Sullivan, il tastierista Mark O'Connor e il bassista Steve Heck.
Il nome della band è un acronimo generato con le iniziali dei loro cognomi.
Heck se ne andò e due fratelli (il chitarrista Jay Graboski e il batterista Jeff Graboski) vennero ingaggiati per il loro album di debutto Okinawa (1974), un'opera caotica di prog-rock e acid-rock ispirata a Frank Zappa e Captain Beefheart.
O'Connor e i fratelli Graboski suonarono nell'EP The Dark Side (1979) della Damaged Goods.

Riapparvero durante la New Wave con l'EP Rocktronics (1984) e l'album Audition (1989).

Quando uscì Oho (1990), si erano orientati verso il folk-rock, avvalendosi di due cantanti donne. Grace Hearn sembra un po' Kate Bush. Il garage rock di Scared Money e la ballata Till Death Do Us Part sono i momenti salienti.

Vecchie registrazioni sono state raccolte in Vitamin Oho (1991) ed Ecce Oho (1998).

Dopo una lunga pausa, gli OHO sono tornati con Up (2005), Bricolage (2008), Gazebo (2018) e Ahora (2022).