A faixa foi apresentada originalmente no programa de Mary Anne Hobbs, na rádio londrina XFM. "What the Eyeballs Did" é o lado B do vinil de 12 polegadas de "Default", single de estreia do Atoms For Peace.
A banda integra, além de Thom Yorke, o habitual produtor do Radiohead, Nigel Godrich, bem como o baixista Flea, do Red Hot Chili Peppers. Menos conhecidos, o baterista Joey Waronker e o percussionista Mauro Refosco completam a formação.
O projeto surgiu a partir de alguns espetáculos dados por Yorke, durante o lançamento do álbum solo "The Eraser" , onde Mauro, Joey, Nigel e Flea deram uma "mãozinha". "Passamos alguns dias em estúdio e decidirmos fazê-lo de forma solta, ocasional".
