Uma das principais bandas do chamado post-rock — rótulo criada nos anos 90 para definir a música complexa e experimental de grupos como Slint, Tortoise, entre outros, o Mogwai foi formado na cidade de Glasgow, na Escócia, por Stuart Braithwaite (guitarra, vocal), Dominic Aitchison (baixo, guitarra), Martin Bulloch (bateria) e John Cummings (guitarra).

O primeiro disco do grupo foi a compilação Ten Rapid, lançada em 1997, reunindo os primeiros singles da banda. No primeiro álbum de estúdio, Young Team, o Mogwai contou com um membro temporário, o Brendan O'Hare (ex-Teenage Fanclub). No álbum seguinte, Come on Die Young, lançado em 1999, Barry Burns (teclados, guitarra) ocupou o lugar deixado por Brendan O'Hare, tornando-se oficialmente o quinto integrante da banda.

Na turnê do álbum Rock Action, lançado em 2001, o Mogwai passou pelo Brasil em maio de 2002, apresentando-se em São Paulo, Belo Horizonte e Rio de Janeiro.

Happy Songs for Happy People, um álbum com título irônico, foi lançado em 2003. Na sequência saiu Mr Beast, em 2006. Ainda nesse ano, o Mogwai compôs a trilha sonora do documentário "Zidane: A 21st Century Portrait", filme sobre o jogador francês de futebol Zinedine Zidane. Em 2008, a banda lançou o álbum The Hawk Is Howling. Dois anos depois, saiu o primeiro disco ao vivo do grupo, Special Moves, em CD/DVD.

Depois de um longo tempo tendo seus discos lançados nos EUA pela Matador Records, em 2010 a banda saiu dessa gravadora e assinou com a Sub Pop. No ano seguinte saiu Hardcore Will Never Die, But You Will, o sétimo álbum de estúdio do Mogwai.

A banda retornou com um novo álbum de estúdio em janeiro de 2014, quando lançou Rave Tapes. Em 2016 saiu'Atomic,  uma trilha sonora para o documentário "Atomic: Living in Dread and Promise". Um novo álbum de estúdio chegou em 2017, sob o nome Every Country's Sun.

Em 2021, o grupo lançou As the Love Continues. O décimo álbum do Mogwai foi recebido com aclamação pela crítica e fãs.