Pee Shy è un trio tutto al femminile di Tampa (Florida), fondato nel 1992 dalla clarinettista Jenny Juristo e dalla fisarmonicista Cindy Wheeler, e successivamente ampliato con la bassista Mary Guidera e un batterista.
Il singolo grezzo Yellow Race Car (Screw Music Forever, 1995) non era rappresentativo di quello che sarebbe stato Who Let All The Monkeys Out (Mercury, 1996): un allegro giro di novità bubblegum e sketch vaudeville (Four Miles, Jason I Thought I Saw A UFO).
Trasferitesi a New York, le ragazze (con un nuovo batterista) hanno registrato l'album molto più musicale Don't Get Too Comfortable (Mercury, 1998). Il formato rock e le forti dosi di tastiere (stucchevoli) hanno notevolmente migliorato i ritornelli orecchiabili di Mr Whisper, Some Day Soon e Rope Waltz.