Le Lemon Kittens erano due giovani polistrumentiste impegnate nell'arte multimediale, nelle performance e nel teatro: Danielle Dax, appassionata di musica elettronica, misticismo biblico e musica vocale mediorientale, e Karl Blake, veterana del jazz.
La loro musica si ispirava al jazz-rock di Canterbury, al rock d'avanguardia di Brian Eno e al nonsense di gran parte del rock britannico.

L'EP Spoonfed And Writhing e l'album We Buy A Hammer For Daddy sono cacofonici e caotici, sebbene le melodie siano spesso affascinanti e pastorali.

Con l'EP Cake Beast (1980) i brani cominciarono a espandersi e ad assumere strutture complesse.
Lo stile della band maturò sul full-length album Big Dentist (1982). Il pezzo di undici minuti They Are Both Dirty è un circo dissonante di gesti dadaisti grotteschi. Per tre minuti Blake si abbandona a tutti i tipi di suoni acustici ed elettronici. Poi Danielle Dax inizia a canticchiare accompagnata da un pianoforte. Mentre la musica torna a una fanfara clownesca, lei intona una litania operistica. Rumori di chitarra e tamburi tribali prendono il sopravvento, ma il finale è una musica funebre eseguita in maniera solenne. L'arte del collage di Blake e Dax è ancora ingenua, ma sicuramente piena di sorprese. Blake mostra la sua passione per il jazz assurdo e nevrotico in Mylmus, per poi accoppiarlo col synth-pop lunare in No Night Not Shared.

Mentre Danielle Dax si inventa una brillante carriera solista, Karl Blake, titolare in proprio di Prehensile Tales (Normal, 1983), indulge con gli Shock Headed Peters in un funk tecnologico a metà strada fra Tom Waits, Pop Group e Gang Of Four.
All'album Not Born Beautiful (EL, 1985 - World Serpent, 1994) seguirono gli EP I Bloodbrother Be (El, 1984), Kissing Of Gods (El, 1985) e Life Extinguisher (Beach Culture, 1986), tentando anche di erigere un ponte fra musiche heavy metal e industriali.

Il gruppo si è sciolto dopo Fear Engine (Produkt Korps, 1987), un'antologia di inediti e rarità dal vivo, ristampato come Fear Engine II (Cyclops, 1993) con l'aggiunta di nuove versioni di vecchie canzoni,

Karl Black, anche bassista nei Sol Invictus, titolare degli Evil Twin con David Mellor dei quali sono stati pubblicati The Black Spot (Livesey, 1994), contenente When Dying is Saying That You Want to Live, e la lunga composizione Palace Of Worms (1998), e autore degli album solisti Paper Thin Religion (World Serpent, 1992) e Mandibles - En Route To Toothless (Swordex Hieroglyph Proper, 1995), riprese l'avventura degli Shock Headed Peters con il solo David Knight.
Several Headed Enemy (Cyclops, 1993), è però un album confuso, sfocato e privo di buone canzoni.

Tendercide (Cyclops, 1995) tenne in vita il progetto, senza per altro giustificarne l'esistenza con la musica (sul disco debutta al canto Sally Doherty).