亨利四世是神圣罗马帝国皇帝亨利三世的长子,母为普瓦图的阿格尼丝。他的父亲亨利三世为了确保他能继承王位,召集诸侯提前选举还是个幼儿的亨利四世为自己的继承人。1054年7月17日,年仅四岁的亨利四世在帝国首都亚琛由科隆大主教赫尔曼二世加冕为罗马人民的国王。1055年,他又在父亲的授意下当选为巴伐利亚公爵。当亨利三世于1056年意外地去世时,亨利四世年仅六岁。他的寡母阿格尼丝皇后为他摄政。1062年,科隆大主教安诺劫持了年幼的亨利四世,胁迫阿格尼丝太后交出政权。安诺成为帝国的摄政后,窃取了王室领地的公爵们势力强大起来。安诺并在1065年强迫亨利四世与莫里恩女伯爵伯莎结婚。亨利四世在1069年公开提出要与伯莎离婚,未获教皇允准。这一切都使亨利四世更加仇视安诺。1070年,与亨利关系紧密的不来梅大主教阿德尔伯特取代了安诺的位置。 亨利四世致力于在帝国境内加强皇帝的权力。然而,实际情况是,德意志诸侯们势力强大且不愿服从任何一位皇帝,教会则在罗马教廷发起的克吕尼运动中变得越来越有独立性。亨利四世冒险与这两者同时对抗。他巩固国王在萨克森权力的措施(修建城堡,派遣王室卫队驻扎)引起1073年—1075年的萨克森暴动。亨利四世在镇压的同时不得不做出一些让步,才把事情平息下去。亨利四世在他的统治末期(1103年)曾首次颁布“上帝和平”,禁止诸侯私战。
1075年,亨利四世与教会的冲突表面化。他坚持要控制德意志和意大利北部所有主教的叙任权,并拒绝让得到教皇支持的米兰大主教就职,为此与教皇格列高利七世发生激烈冲突。
亨利四世很快面对着新的叛乱。继任教皇与德国诸侯联合;亨利四世为此再度侵入意大利,但未能取胜(1090年)。在与韦尔夫家族(士瓦本公爵鲁道夫的家族)和解后,他才得以从意大利返回德国。1093年,他的长子康拉德曾经发动叛乱。在诸侯的怂恿下,他的幼子亨利蠢蠢欲动,企图取代他的地位。1105年,这个阴谋取得了成功,王储推翻了自己的父亲,成为新国王亨利五世。亨利四世遭到儿子的监禁,但后来成功逃脱,并在列日招募到一支忠于他的军队。但正在他准备夺回王位时,亨利四世突然去世了。
1106年8月7日,亨利四世在列日去世。新任教皇帕斯卡尔二世下令不得为亨利四世举行葬礼。但列日的百姓们蔑视教皇的命令,把他们的皇帝隆重地安葬了,虽然他生前被革除了教籍,那些贫寒的教士们仍为他的灵魂祈祷,而停放其灵柩的列日教堂也被普通士兵和武装平民们层层卫护起来。离开人世之前,他宽恕了自己所有的敌人,包括他那背叛自己的儿子。
亨利四世的去世并不代表着政治斗争的结束,卡诺莎之行所埋下的仇恨种子, 一直影响着以后几代皇帝和教皇。直到1122年,百年的权力之争让教皇和皇帝都精疲力尽,双方在德国西部的沃尔姆斯签订了“沃尔姆斯宗教协定”。协定规定:德意志境内的主教由教士自由选举产生,而不受皇帝干涉。但是,这种选举必须在皇帝的监督下才能有效。主教在领地上的权力由皇帝来授予,以权标作为其象征,宗教权力由教皇授予,以指环作为其象征。自此,皇帝与教皇的权力之争才告一段落。