Representante do chamado slowcore, Low foi formado em Duluth, Minnesota, no ano de 1993, pelo casal Alan Sparhawk (vocalista, guitarrista) e Mimi Parker (vocalista, baterista), e o baixista John Nichols.

O primeiro álbum da banda, I Could Live in Hope, foi produzido por Kramer, mais conhecido pelo seu trabalho com o Galaxie 500. Esse trabalho foi lançado em 1994 pelo selo Vernon Yard Recordings. Na sequência, John Nichols saiu do Low, sendo substituído pelo baixista Zak Sally. Long Division, o segundo álbum, saiu em 1995. No ano seguinte foi lançado The Curtain Hits the Cast, o último álbum da banda pelo selo Vernon Yard Recordings.

Low fez a sua estréia pelo selo Kranky em 1997, com o EP Songs for a Dead Pilot. Na sequência vieram os aclamados álbuns Secret Name (1999) e Things We Lost in the Fire (2001) e Trust (2002).

A partir de 2005, com o álbum The Great Destroyer, Low começou a lançar seus trabalhos pela Sub Pop. O álbum Drums and Guns saiu em 2007.

Com um novo baixista (Steve Garrington), a banda lançou em 2011 seu nono álbum de estúdio, intitulado C'mon. Em 2013, nos vinte anos de carreira, Low lançou The Invisible Way, álbum produzido por Jeff Tweedy, líder do Wilco.  Em 2015 saiu Ones and Sixes. A banda lançou em 2018 o experimental Double Negative. Em 2020, Matt Livingston saiu do grupo, que no ano seguinte lançou Hey What. Em 5 de novembro de 2022, Mimi Parker, morreu aos 55 anos após batalha contra o câncer de ovário.