После смерти отца Альфонс получил по завещанию Леон и Астурию. В 1067 г. началась война между ним и его старшим братом Санчо II; последний разбил его в двух сражениях — при Льянтаде и Гальпехаре. Во втором сражении Альфонс попал в плен, и брат заточил его в один из своих замков. Спустя некоторое время Альфонсу удалось бежать, и он нашел приют при дворе Толедского эмира.

Узнав в 1072 г. о смерти Санчо, Альфонс тайно уехал из Толедо, и был провозглашен королем Кастилии. Младшего брата, правившего Галисией, он обманом захватил в плен и держал в строгом заключении до самой его смерти. Таким образом, Альфонс овладел всем отцовским государством: Кастилией, Леоном и Галисией. Воспользовавшись тем, что эмир Севильи аль Мутамид помогал Гарсии, Альфонс начал против него войну. Эмиру удалось отвратить нашествие христиан только обещанием выплачивать большую дань.

В 1082 г., обвинив мусульман в задержке дани, Альфонс подступил к Севилье и три дня осаждал ее. Вскоре после этого толедцы изгнали из города эмира аль Кадира. В 1084 г. Альфонс вернул ему Толедо, потребовав за это увеличения дани и передачи некоторых крепостей. В следующем году, собрав большое войско, Альфонс во второй раз подступил к Толедо. После недолгой осады аль Кадир согласился капитулировать. 25 мая 1085 г. Альфонс торжественно въехал в древнюю столицу вестготского королевства. Напуганные успехами Альфонса, испанские эмиры призвали на помощь вождя африканских альморавидовсер. XI1146 Юсуфа. В октябре 1086 г. в сражении у Силаки он нанес Альфонсу тяжелое поражение. Христиане понесли огромные потери. В 1090 г. альморавиды вынудили кастильцев уйти из Аледо.

В 1108 г. сын Юсуфа Али разгромил кастильцев при Уклесе. В этой битве пал Санчо, единственный сын Альфонса. Потеря эта так потрясла старика, что он заболел и вскоре умер.