Агрикола родился в древней и знаменитой колонии Форум Юлия, в семье сенатора Юлил Гредина, казненного императором Калигулой за отказ выступить с обвинительной речью против одного из его врагов. Воспитывала Агриколу мать, Юлия Присцилла. Она же удержала сына от намерения посвятить свою жизнь философии. По ее совету Агрикола решил сочетать философию с государственной деятельностью и воинской службой.

Приняв участие в нескольких военных походах, Агрикола уехал в Рим. Женитьба на Домиции Децидиане, происходившей из знатного и богатого рода, дала ему возможность войти в круг высшей римской знати. Агрикола избирался квестором, народным трибуном, претором и консулом. После исполнения консульских обязанностей он был назначен правителем Британнии и продолжил завоевание этого острова, начатое еще Юлием Цезарем. В течение семи лет он управлял ею, расширив римские владения до горных областей Шотландии.

Император Домициан, раздраженный успехами Агриколы , отозвал его и послал в Британнию другого наместника. Обиженный Агрикола провел всю оставшуюся жизнь в полном уединении. Его дочь вышла замуж за историка Та́цита, который написал биографию своего тестя, изобразив его добропорядочным римлянином старого уклада и образцовым правителем, каким он, по-видимому, и был на самом деле.