К этому же времени относится его знакомство с юношей Руффини, который впоследствии талантливо описал юношество Мадзини в одном романе. По свидетельству Руффини, Мадзини отлично знал в то время не только итальянских классиков, в особенности Данте и Альфьери, но также Шекспира, Байрона, Гёте и Шиллера. Вдобавок он уже сам писал прозой и стихами.
С 1827 года началось сотрудничество Мадзини по вопросам литературы и политики сначала в генуэзской газете, а когда последняя была закрыта правительством – в ливорнской. Около этого же времени он был принят в тайное общество карбонариев, ставившее целью борьбу за свободу. Вербуя членов в это общество по поручению руководителей, он встретился с неким майором, который предал его в руки полиции. Заключенный в крепость в Савоне, он задумал учреждение другого общества с более определенной и практичной программой, которое впоследствии назвал «Молодой Италией». Обдумывая программу этого общества, он сделался республиканцем и противником папства, но в то же время глубоко проникся той мыслью, что религия необходима и без нее невозможен прогресс. Таким образом, сложился его лозунг «Бог и народ», ставший лозунгом «Молодой Италии».
Выпущенный вскоре из тюрьмы за отсутствием серьезных улик, но лишенный права жить в больших городах, то есть в Генуе и Турине, Мадзини уехал в 1831 году за границу, в Женеву. Там он познакомился со знаменитым экономистом Сисмонди и с итальянскими эмигрантами.
Из Швейцарии Мадзини уехал во Францию, сначала в Лион, а затем в Марсель, где им наконец и было учреждено вместе с другими итальянскими эмигрантами общество «Молодая Италия».
Параграф первый этого общества гласил, что «Молодая Италия» является братством итальянцев, верящих в закон прогресса и долга и, кроме того, убежденных, что Италия призвана стать одной нацией, и проводящих в жизнь это убеждение.
Воззвания «Молодой Италии», сочиняемые Мадзини в Марселе, с трудом проникали в Италию, вследствие противодействия ее владык, боявшихся из-за объединения потерять свою самостоятельность и власть.
Из Марселя Мадзини организовал неудачное восстание в Италии, чем возбудил против себя французское правительство и принужден был опять удалиться в Женеву. Тут он организовал поход на Пьемонт, который тоже окончился неудачей, ибо осуществлению похода помешало женевское правительство. Но тем не менее влияние общества «Молодая Италия» сильно возросло в Италии, и в его рядах числились люди из всех классов общества, не исключая аристократию.
«Молодая Италия» с 1834 года вошла во вторую фазу своего развития, превратившись на съезде в Берне в «Молодую Европу», которая поставила себе целью братство народов и учреждение Соединенных Штатов Европы. Это испугало европейские правительства, и Мадзини должен был удалиться из Швейцарии, чтобы искать убежища в Англии.
В Лондон он приехал в январе 1837 года, и для него началась тяжелая жизнь материальных лишений, пока он не стал сотрудничать в английских журналах и не приобрел друзей, в числе коих были известный английский кооператор Д. Холиок, Т. Карлейль и богатая семья Натан. Последняя находилась под таким влиянием Мадзини, что сын Натанов впоследствии сделался итальянским гражданином и мэром города Рима.
Наблюдая за тяжелой жизнью итальянцев в Лондоне, в особенности детей, он учредил для последних в ноябре 1841 года школу. Школа скоро стала центром итальянской колонии и дала повод к учреждению общества трудящихся с органом «Apostolato Popolare», в котором Мадзини поместил свои воззвания к итальянцам, итальянским рабочим и статьи «О долге итальянских рабочих ассоциироваться национально» и о «Необходимости организации для итальянских рабочих».
В 1848 году Мадзини поехал в Италию. В Милане он был встречен с необычайным энтузиазмом, свидетельствовавшим о том, что его идеи успели распространиться в широких массах. Во всех итальянских государствах возникли армии добровольцев для борьбы с Австрией. Во главе их стал король Карл Альберт Пьемонтский, хотя он и боялся демократических идей Мадзини. Однако Карл Альберт не оправдал надежд итальянцев.