Затем Агриппа поступил на имперскую военную службу, принимал участие в войне с венецианцами и за свою храбрость был на поле битвы посвящен в рыцари. После этого некоторое время он скитался по Италии, читал богословские лекции в Турине и Павии, но, вероятно, и здесь поссорился с местным духовенством, почему и принужден был бежать. Влиятельные друзья представили ему место синдика в Метце. Здесь он так энергично заступался за лиц, обвиняемых в ведовстве, и так удачно защищал их в качестве адвоката, что многих действительно спас от костра. Но так как такая деятельность, конечно, не по душе была монахам, то вскоре он сам подвергся обвинению в колдовстве и должен был бежать из города (в 1519 г.). В Метце, вероятно, был его учеником Иоанн Вейер, впоследствии знаменитый врач, много способствовавший тому, чтобы пошатнуть веру в возможность ведовства. В следующие годы Агриппа жил в разных местах, испытывая сильную нужду; он потерял жену, но несколько лет спустя женился вторично. В 1524 г. он был в Лионе лейб-медиком матери Франциска I; но так как его астрологические предсказания не предвещали ей счастья, то он впал в немилость и снова оказался без определенного места, обремененный долгами, и чувствуя на себе в различных видах немилость двора. В это время он написал свой труд: «De vanitate scientiarum», где излил всю горечь своих несчастных обстоятельств в насмешках над бессилием науки.
Под давлением нужды в деньгах он покинул Францию и недолгое время был историографом при Маргарите Австрийской, наместнице Нидерландов. Однако духовенство очень скоро выгнало его и оттуда, после чего он с небольшими перерывами три года прожил в Кельне (1530–1533); здесь, несмотря на инквизицию, ему посчастливилось напечатать свое сочинение «Philosophia occulta».
Наконец, после многолетних скитаний, он снова вернулся в Лион и умер здесь (в 1535 г.) в доме своего друга, генерального сборщика податей в Дофинэ.