1077年，亨四脫下王袍，帶著老婆孩子和幾個隨從，頂著風雪翻越阿爾卑斯山脈的塞尼山口，來到了意大利北部的卡諾莎城堡。因為他知道教皇在這里。他以為教皇是故意躲著不見他，其實是教皇聽說亨四帶著人來找他，以為是找他報仇干仗的，所以他溜到卡諾莎堡躲避。

卡諾莎堡對亨四緊閉大門，亨四脫下衣服，披上了一件懺悔袍，光著腳，站在卡諾莎堡的大門外，淚流滿面地請求教皇的饒恕。這是當年的1月，意大利北部正是嚴冬，積雪覆地，寒風刺骨，就是這樣的天氣下，亨四在門外站了三天三夜，據說還帶著他的老婆和兩歲的兒子！

這就是歷史上著名的“卡諾莎之辱”，當然是指亨四受到的欺辱。好在雖然是被辱，但目的達到了，第四天，教皇開門了，接受了亨四的道歉和認錯?？粗蛟谧约好媲暗牡峦?，教皇非常得意，終于等到這一天了，終于把這幫人收拾服帖了，以后，還有誰敢挑釁教皇至高無上的尊嚴和權力！

咱家曾有韓信受辱胯下的故事，以退為進，敢于吃眼前虧其實是一種大智慧。亨四回到德意志，關于他如何卑躬屈膝、狼狽不堪祈求教皇原諒的故事，已經被教皇和他的手下添油加醋藝術加工了好幾個版本遍傳江湖，整個西歐，差不多連種地的農婦都知道德意志國王在雪地里的這場遭遇。而最可恨的是，那些擁立了新國王的諸侯們，并沒有因為亨四恢復了教籍而停止反叛，他們說亨四悔悟太遲了，教皇能原諒他，諸侯們不原諒，況且，他們已經有了自己的國王了。

好在亨四畢竟是正統(tǒng)，大部分的諸侯出于自己的利益考慮，也不想讓那個什么魯道夫之類的成為新王，而德意志的百姓更是覺得，亨四以國王之尊，差點凍死來懺悔錯誤，怎么就不依不饒呢，于是亨四這邊很快也有不少支持者。亨四現在滿腔的憂憤啊，他不報仇都不能活了，于是德意志內戰(zhàn)開打了。

教皇是叛臣一邊的，亨四回去后就組織人馬跟叛臣干仗，顯然是認罪不徹底啊，教皇勸他停手，亨四不從，教皇大怒，1080年，再次破門律。支持亨四的德意志教會這次也很快做出反應，再次宣布罷黜教皇！這一次，教皇的目的沒達到，德意志本地的主教都和亨四站在一起，不久，王軍鎮(zhèn)壓了反叛，那個被推立的魯道夫國王戰(zhàn)敗，失去一只右手后死去。