Первым произведением, которое Яакко Ругоевым было «по-писательски» доведено до конца, явился рассказ «Весна» о гражданской войне. Этот рассказ был напечатан в последнем номере «Пуналиппу» за 1941 год, вышедшем, когда уже началась война. С 1940 года редактором журнала работал Армас Эйкия, а одним из отделов заведовал однокашник Ругоева по учебе в учительском институте Вейкко Эрвасти, которому и послал Яакко из Ухты целую пачку стихотворений и этот свой рассказ. Как-то еще до войны Ругоев приехал в Петрозаводск и зашел в редакцию «Пуналиппу». Там ему пришлось выслушать от главного редактора журнала Армаса Эйкия суровый приговор своим стихам. «Вероятно, он был прав, но такая критика меня крепко ошеломила, и после этого я не посылал свои стихи в «Пуналиппу». Но рассказ «Весна», видно, понравился Эйкия, и он одобрил его к печати». Этот первый свой «писательский» рассказ Яакко Ругоев включил, правда с некоторой, по его словам, доработкой, в сборник рассказов «На можжевеловой земле», вышедший на финском языке в 1964 году.
В творчестве Яакко Ругоева наиболее видное место занимает поэзия — оригинальная и переводная. В 1948 году он выпустил свой первый поэтический сборник «Путь поколения», в который вошли стихи военных лет, проникнутые боевым пафосом, но вместе с тем есть в книжке и несколько лирических стихов. Затем, в 1951 году, вышел сборник «Песни мира». Еще до его выхода Ругоев приступил к работе над большой эпической поэмой о жизни своего народа. Первая часть поэмы под названием «Ледоход» была издана в 1956, вторая, «Трудные годы», — в 1959 году. Эта, по определению самого Ругоева, «повесть в стихах», число строк которой составляет более десяти тысяч, в 1975 году вышла в свет единой художественно оформленной книгой под названием «Сказание о карелах». Она повествует о судьбах бедняцкого рода Перттуненов, а также о зажиточном крестьянине и лавочнике Лева Еухкине и его семье.
В 1965 году «Сказание о карелах» вышло на русском языке в переводе Татьяны Стрешневой и встретило положительный отклик читателей несмотря на то, что мир северной Карелии, подробно изображенный в поэме, довольно далек, а порой, пожалуй, и непонятен многим русским читателям, живущим в совершенно других условиях. Тем не менее эта поэма выдержала несколько изданий на русском языке.
Другие поэтические сборники Яакко Ругоева, вышедшие на финском языке: «Из пережитого» (1962), «Разжигаю огонь» (1968), «На своей пашне» (1972), «Тревоги земли» (1978), «Мои карельские корни» (1982). К 70-летию писателя вышел в свет большой сборник избранных его стихотворений «Хлебное дерево карела».
Стихи Яакко Ругоева широко переводились на языки народов Советского Союза, особенно на русский, украинский и эстонский. Из русских переводчиков особо следует упомянуть поэта Юрия Линника, уроженца Беломорска, доктора философии, преподавателя Петрозаводского педагогического института, а также известного ленинградского поэта Олега Шестинского. Шестинский многократно бывал в Карелии, Яакко Ругоев не раз сопровождал его в поездках. Например, для того чтобы глубже проникнуть в мир стихов Ругоева, Шестинский совершил однажды вместе с ним двухнедельную поездку в Вокнаволок, Калевалу и Костомукшу. По мнению Яакко Ругоева, переводы Шестинского верно передают содержание и настрой оригинала. Путешествия по Карелии вдохновили ленинградского гостя на собственное творчество. Так, в поэме «Дума о XXI веке» Шестинский ведет серьезный разговор о защите природы; эту прекрасную поэму Ругоев перевел на финский язык.
В 1988 году в издательстве «Художественная литература» 50-тысячным тиражом вышел в свет двухтомник избранных произведений Яакко Ругоева на русском языке.
В поэтическом творчестве Яакко Ругоева весьма значительное место занимают переводы на финский язык. Одним из первых крупных результатов такого труда явился перевод древнерусской поэмы «Слово о полку Игореве» (1953). Общее число советских поэтов, стихи которых переводил на финский язык Яакко Ругоев, составляет примерно четыре десятка. В это число входят и такие величины, как Владимир Маяковский, и некоторые поэты Карелии, пишущие на русском языке.
Драматургию Ругоев не считает своей областью. Но одну пьесу, «Огни Марикоски», он все же написал. И в 1947 году Финский театр в Олонце поставил по ней музыкальный спектакль в четырех действиях. Пьеса, рассказывающая о послевоенном восстановлении края, была опубликована в 1948 году в журнале «Пуналиппу» под названием «Жители Корпиярви».
Прозаическое творчество Яакко Ругоева долгое время оставалось как бы в тени его поэзии. Проза мало издавалась. «Она трудно проходит», — говорит он, имея в виду то, что рукописям его прозаических произведений не всегда удавалось, по цензурным соображениям, перешагнуть через порог издательства.