L’histoire d’High On Fire commence à la fin de l’été 1998, alors que le groupe Sleep se démantèle suite à des problèmes avec London Records. Le guitariste d’alors, Matt Pike, poussé par le besoin de jouer, forma un power trio avec le batteur Des Kensel et son ami de longue date George Rice à la basse.

Leur premier album, The Art of Self Defense (Man's Ruin Records,2000) qui proposa un style unique et bien distinct en cette époque du neo metal fut largement remarqué par la presse, ce qui permit au groupe de partir en tournée. Puis Man's Ruin Records mit la clef sous la porte en 2001, laissant le groupe en rade.

C’est auprès de Relapse Records que le trio trouva un nouveau foyer d’où il sortit trois albums : Surrounded By Thieves (2002) Blessed Black Wings(2005) et Death Is This Communion (2007). Lors de cette période, High On Fire tourna un peu partout dans le monde avec des groupes tels que Mastodon, Cltuch et Motorhead et vécut des changements de bassistes (Joe Preston arriva en 2002 et Jeff Matz en 2006).

C’est depuis 2010 que le groupe poursuit son aventure avec E1 Music et leur cinquième album Snakes for the Divine…