Le groupe se forme aux alentours de 2003, autour d'Hicham et de Sylvain (guitares), puis de Thibault et Benjamin (chant et batterie). On est loin de l'esprit Niflheim puisque le premier nom du groupe sera... Potatoes (une plaisanterie qui devrait plaire à Michael Weikath) ! Mais bien vite le line-up change, Didier remplace Sylvain à la guitare, Sébastien débarque à la basse, Reney aux claviers et surtout, le combo intègre deux jeunes femmes, Aurore au chant (donc Thibault out) et Clara au violon. Et une bonne idée ne venant jamais seul, le groupe décide de changer de nom, passant de Potatoes à Niflheim. Et le batteur laisse sa place à Renaud.

Le groupe changera encore après la sortie de son premier EP, Lost In Brocéliande en 2006. Renaud quitte le groupe à son tour, remplacé par Emmanuel, un batteur issu du hardcore et Reney suit le même chemin. Cependant, le claviériste ne sera pas échangé. pour donner plus de corps, pour insister sur le côté folklorique, Niflheim décide d'investir dans une violoncelliste, Marie. Renaud réintègre le groupe en tant que percussionniste. Il a également pour mission d'introduire dans la musique de Niflheim des instruments moins courants, plus celtes, comme la bombarde ou la flûte irlandaise.

Le groupe commence à tourner de plus en plus et enregistre son second EP en 2008, Once Upon A Cow.