В 1114 г. Альфонс взял крепость Туделу и сделал ее опорным пунктом арагонцев в бассейне Эбро. Затем при помощи рыцарей, пришедших из южной Франции, он в нескольких сражениях разбил мусульман и после семимесячной осады 18 декабря 1118 г. взял Сарагосу, оплот мусульманского владычества в северной Испании. Захват этого города для Арагона имел такое же значение, как взятие Толедо для кастильцев. После этого ничего не мешало расширению государства в юго восточном направлении. Альфонс перенес в Сарагосу свою столицу и в 1120 г. нанес арабам еще одно поражение при Кутанде. В 1126 г. он разбил их в третий раз при Аринсоле близ Лусены и достиг побережья Средиземного моря. В это же время ему пришлось вести войну со своей женой, кастильской королевой Урракой.

В 1127 г. он отказался от Кастилии в пользу пасынка Альфонса VII. Незадолго до смерти в сентябре 1134 г. Альфонс потерпел тяжелое поражение при Фраге. Он был так опечален этим, что занемог и умер. Будучи бездетным, он завещал свое королевство палестинским рыцарским орденам.