В 1273 г. во Франкфурте-на-Майне, по настоятельной рекомендации папы, курфюрсты КурфюрстыKurfürsten, букв. - князья-избиратели, от Kur - выбор, избрание и Fürst - князьнемprincipes electores imperiiлатКрупнейшие князья в Священной Римской империи германской нации, обладавшие правом избрания императора.Смотреть полностью единогласно избрали королем графа Рудольфа Габсбурга, тем самым положив конец междуцарствию. Резиденции Рудольфа находились в Ааре, Цюрихе, Эльзасе и в Брайсе. На политической арене он всегда демонстративно выступал как наследник Штауфенов и пользовался поддержкой их сторонников.

В начале правления Рудольфа на востоке империи произошли значительные перемены, сыгравшие существенную роль во всей последующей внешней политике короля. Могущественным властителем в империи был в то время король Богемии Пржемыслович Оттокар II (1233–1278, король с 1253 г.), которому после смерти последнего представителя Бабенбергской династии по мужской линии досталось во владение герцогство Австрийское (1251 г.), т. к. он был женат на Маргарите из династии Бабенбергов, а также Штирия (1260–1261 гг.), Каринтия и Крайна ( 1269 г.).

В 1276 г. Рудольф повел свои войска в первый военный поход против Оттокара, который в это время был серьезно ослаблен борьбой с богемской оппозицией. Оттокар сдался ему без боя и выразил готовность присягнуть на верность и отказаться от австрийских земель.

В 1278 г. Рудольф одержал окончательную победу над Оттокаром и убил его в бою. С 1282 г. Австрия и Штирия стали принадлежать Габсбургам — их получили в лен сыновья Рудольфа. Рудольфу удалось значительно усилить свою власть на территории Швабии: под предлогом заботы о мире он разорил замки «противников мира» и «нарушителей спокойствия в империи». В 1289 г. Рудольф вынудил графа Оттона IV (свободное графство Бургундия) присягнуть на верность и этим, хоть и на короткое время, стабилизировал ситуацию на юго-западе страны. Рудольф I похоронен в соборе в Шпейере.