Первые литературные опыты Гулака-Артемовского относятся еще к периоду его учебы в Киевской академии. Но с тех пор сохранились лишь некоторые отдельные строки. Активную же работу на сочинительском поприще он начинает лишь по приезде в Харьков. Он быстро завязывает дружеские отношения со всеми уважаемыми Квиткой-Основьяненко, Гонорским, Филомафитским. Вскоре его начинают печатать на страницах основанного Квиткой «Украинского вестника». Жанр произведений Гулака обусловлен сферой его профессиональных интересов — это прежде всего переводы польских прозаических произведений, критические статьи польских писателей. В «Вестнике» печатается перевод с польского на русский язык повести «Бен-Грианан», очерк, написанный в подражание польской прозе, «Синонимы, задумчивость и размышление», оригинальный украинский стих «Настоящая доброта». А в 1818 году на страницах «Украинского вестника» появляется «сказка» «Пан и собака». В ней основу сюжета составила четырехстрочная басня поляка Игнатия Красицкого (священника, которого современники уважительно называли «польским Вольтером») «Pan і Pies» и отдельные эпизоды другой басни того же автора «Pan niewart sług». Четыре строчки Красицкого Гулак-Артемовский превратил в несколько страниц, подробно изложив историю о псе Рябко, которого сначала побили за то, что лаял ночью, а на следующий день — за то, что не лаял. Сказка Гулака-Артемовского стала первой рифмованной байкой (басней) в украинской литературе. Считается, что она дала начало новому для Малороссии литературному жанру. Язык для своего произведения Петр Петрович выбрал украинский, близкий к разговорному. Это особенно восхищает (и восхищало уже тогда) его поклонников.
Не менее чем «остросоциальная» направленность данного сочинения. Действительно, в байке содержался явный намек на жестокое обращение с крепостными. Да и в своих последующих письмах автор не давал усомниться в своем отношении к крепостничеству. Так, он даже упрекал в недостаточном к этому внимании самого Григория Федоровича Квитку, правда, отмечая, что тот у себя в поместье не допускает особых ущемлений крестьян. Демократически настроенный Костомаров, на которого Гулак-Артемовский долгое время оказывал личное влияние (историк учился в Харьковском университете, был частым гостем в доме у ректора), в 1843 году в альманахе «Молодик» чрезвычайно высоко оценил байку «Пан и собака». После этой статьи вал хвалебных отзывов о литературном даровании ректора уже не прекращался (в том числе и после его смерти). Пантелеймон Кулиш писал, что если бы Гулак-Артемовский умер, написав только «Пана и собаку», то и тогда бы оставил неизгладимый след в украинской литературе. Писали, что байки Гулака-Артемовского многие его земляки знали наизусть, что он занял второе место в молодой украинской литературе после Ивана Котляревского. Теперь байку заучивают наизусть уже современные школьники.
А тем временем, многие исследователи признают творчество Гулака-Артемовского довольно слабым в художественном отношении. В ответ на восторженные отзывы о гулаковском «живом, разговорном, настоящем» украинском [23]
, они говорят, что «Пан и собака» написан нескладно, трудный для чтения; в произведении много лишнего, цезуры расставлены «где попало».После «Пана и собаки» Гулак-Артемовский написал еще несколько баек: «Солопий и Хивря, или Горох на дороге» (направлена против Харьковского филотехнического общества домоводства), «Тюхтий и Чванько», «Дурак и умный», «Любопытный и молчун», «Врач и Здоровье», «Отец и сын», «Рыбка», «Две птицы в клетке». Трудился Гулак-Артемовский и на теоретическом поприще — опубликовал ряд исследований: «О поэзии и красноречии на Востоке», «О поэзии и красноречии у древних, и в особенности у греков и римлян».
В 1827 году уже на страницах «Вестника Европы» Петр Петрович выступил с «малороссийскими балладами» «Рыбак (перепев одноименного произведения Гете, ярко выраженного романтического направления)» и «Твардовский» (свободная переделка баллады Мицкевича «Пани Твардовская», основу которой составляет популярная в Европе легенда о дворянине, продающем душу дьяволу). «Твардовский» имел довольно значительный успех. С Адамом Мицкевичем Гулак-Артемовский свел личное знакомство в Харькове.
В том же 1827 году на страницах «Вестника» появились и переделки од Горация Гулака-Артемовского.
Но с конца 20-х годов Петр Петрович практически прекращает заниматься литературной деятельностью — так что во время своего ректорства он уже не писал. Многие считают, что Гулак перестал писать после обыска, устроенного в его доме по улице Садово-Куликовской (ныне Дарвина) по ложному доносу. Произошло это в 1831 году. В поисках крамолы полиция даже сорвала тротуарные плиты, но ничего не нашла. Петр Петрович, вероятно, решил больше не искушать судьбу и полностью переключился на преподавательскую деятельность. Только в последние годы жизни из-под пера харьковского автора вышел ряд лирических медитаций в народнопесенном духе.