С младенчества определенный отцом к престолонаследию, Генрих был коронован в 1054 г. кёльнским архиепископом Германом в Ахене. После смерти отца в 1056 г. регенство осуществляла его мать Агнеса, дочь герцога Аквитании и Пуату Вильгельма. Достигнув совершеннолетия в 1065 г., Генрих, руководствуясь советами бременского архиепископа Адальберта, стал постепенно сосредоточивать управление империей в своих руках. Главной опорой его власти была система имперской церкви. Стремясь обуздать местную знать, он сделал ставку на укрепление самостоятельности городов и привлечение к управлению империей представителей зарождавшейся прослойки служилых людей — министериалов. Политика Генриха вызвала сопротивление знати. Первое восстание против короля, известное как Саксонская война, началось в 1073 г. в Саксонии. Заключив союз с частью князей и найдя поддержку среди населения епископских городов на Рейне, а также у крестьян Верхней Германии, Генриху удалось разгромить восставших в 1075 г. Центробежные процессы достигли кульминации в марте 1077 г., когда знать противопоставила Генриху своего ставленника на королевский престол — Рудольфа Швабского. Генриху удалось изолировать противника, лишь пойдя на уступки папе. Смерть Рудольфа в битве при Эльстере1080 и предводителей саксонской оппозиции в 1083– 1088 гг. значительно разрядила внутриполитическую обстановку в империи, и, хотя Генриху так и не удалось упрочить свое господство в Саксонии, он сумел укрепить права Салической династии на престол, добившись коронации в Ахене своего сына Конрада.

Характер отношений Генриха с папством зависел во многом от степени защищенности его собственных позиций в Германии. Папа Григорий VII (понтификат в 1073– 1085 гг.), активный сторонник идеи церковной реформы, был весьма заинтересован в Генрихе и именно через него надеялся добиться осуществления своих замыслов в Германии. Он вполне благосклонно отнесся к требованиям короля короновать его императорской короной. Согласие нарушилось в 1075 г.: подавив саксонское восстание, Генрих вторгся в Северную Италию и по своему усмотрению распорядился тремя епископскими кафедрами, чем вызвал протесты со стороны папы Григория. Побуждаемый настроенным антиримски немецким епископатом, Генрих в ответ на папские увещевания объявил на Вормсском синоде в декабре 1075 г. о низложении папы. Григорий VII, в свою очередь, отрешил Генриха от королевской власти в Германии и Италии и освободил его подданных от клятвы верности. Так было положено начало спору за инвеституру между папами и германскими императорами. Не отважившись настаивать на устранении Григория VII в условиях, когда усиливавшаяся внутри Германии княжеская оппозиция грозила соединиться с папством, Генрих был вынужден пойти на унизительное покаяние перед папой в Каноссе (январь 1077 г.)· Получив отпущение грехов, он, однако, не обрел в лице Григория VII поддержки для борьбы с Рудольфом Швабским: в немецком «тронном» споре папа предпочел занять выжидательную позицию. В ответ на новое отлучение, обнародованное в 1080 г., при поддержке Генриха в июне 1080 г. был избран антипапой равеннский архиепископ Виберт (Климент III). Из рук последнего Генрих принял в 1084 г. императорскую корону.

Последние годы правления Генриха были омрачены частыми изменами: в 1093 г. на сторону врагов перешел провозглашенный итальянским королем старший сын Генриха, Конрад, а в 1105 г. от него отрекся и встал во главе оппозиции другой его сын — Генрих (V). Попав в плен к последнему, Генрих был вынужден согласиться на отречение от престола и выдачу королевских инсигний. Это противостояние не успело перерасти в вооруженный конфликт только из-за смерти Генриха. Генрих IV погребен в соборе в Шпейере.