I Big Hate, originariamente denominati Red Eye, furono fondati a New York dal cantante/chitarrista Brian Stanger, ma presto si trasferirono ad Atlanta (Georgia), dove il chitarrista Rusty Cobb si unì alla formazione.
Il sound di Big Hate (Flip, 1996) era a metà strada tra il punk-pop e l'hard-rock.

You're Soaking in It (Flip, 1998) rafforzò il sound della band, rilassandone i groove. Si tratta di hard-rock melodico che non si affida al ritornello o al riff, ma piuttosto alla dinamica e al melodramma (Century e Wrong).