В 1874 году в Лигу гомруля вступил Парнелл, он решил баллотироваться в парламент. Его политический дебют не был удачным. Предвыборная речь Парнелла в Дублине была бессвязной и не произвела впечатления на избирателей. Победил другой кандидат. В дальнейшем Парнелл в своих выступлениях делал акцент не на красноречии, а на искренности, убежденности, простоте.
В апреле 1875 года Парнелл снова баллотируется в парламент и на этот раз побеждает, а уже через пять лет в 1880 году его как лидера ирландской фракции избирают сразу в трех округах. С этого времени он до самой кончины представлял в парламенте южноирландское графство Корк. Парнелл вопреки предсказаниям многих гомрулеров не стал «немым парламентарием»: уже 26 апреля 1875 года Парнелл произносит первую речь в парламенте, которая привлекает внимание общественности. В ней он осудил колониальные порядки в Ирландии: «Нельзя смотреть на Ирландию как на географическую единицу. Ирландия не фрагмент из географии, а нация».
Вскоре Парнелл обнаружил, что ирландскую фракцию в парламенте раскалывают постоянные раздоры и споры, а отсутствие централизованного руководства подрывает дисциплину в ее рядах. Тогда он становится в ряды левого крыла фракции, которая критикует своего лидера Исаака Батта за его бездеятельность. Кроме того, он возглавляет «Комитет амнистии», выступавший за освобождение ирландских политических заключенных.
Парнелл в своей парламентской деятельности довольно неплохо использовал метод обструкции. Когда в июльские дни 1877 года обсуждался билль Дизраэли об аннексии Трансвааля, депутаты-гомрулеры затянули его обсуждение с 12 часов 31 июля до 18–30 1 августа, выступая по очереди. Кроме того, такая обструкционная тактика способствовала сплочению ирландской фракции в британском парламенте и росту национального самосознания в самой Ирландии, так как Парнелл устраивал обструкции по вопросам, которые перекликались с насущными проблемами ирландского народа.
В 1879 году после смерти Исаака Батта Парнелл возглавил ирландскую национальную партию. Главная цель Парнелла состояла в завоевании политической самостоятельности Ирландии. Он понимал, что без поддержки ирландского народа эта цель недостижима, поэтому 1 июля 1879 года Парнелл объединяется с вождем фениев Дж. Девоем, и совместно они вырабатывают «новый курс». Его основные положения: самоуправление Ирландии, агитация в пользу разрешения земельного вопроса в интересах ирландского крестьянства, борьба с «чрезвычайными» законами английских властей, поддержка всех угнетенных наций Британской империи и других держав. Для осуществления этого курса осенью 1879 года создается Ирландская национальная земельная лига. В то же время Парнелл не был сторонником радикальных действий и осуждал погромы имений и расправы над английскими лендлордами в Ирландии.
В декабре 1879 года Парнелл отправился в США (где проживало огромное количество ирландцев) для сбора средств голодающим ирландцам. Америка встретила Парнелла с триумфом. Он провел многотысячные митинги, в его честь мэры американских городов давали официальные банкеты, кампания Парнелла широко освещалась в американской прессе. В штате Огайо его приветствовала 50-тысячная толпа, Парнелл даже выступил в американском конгрессе несмотря на официальные протесты Великобритании. Во время этой американской поездки Парнелл собрал 12 тысяч фунтов стерлингов, упрочил свой авторитет — его все чаще стали называть «некоронованным королем Ирландии».
В это время в Ирландии шла «аграрная война»: горели усадьбы английских лендлордов, происходили вооруженные нападения на самих лордов и их управляющих. Война эта осуществлялась под непосредственным руководством Ирландской национальной земельной лиги, в которой Парнелл играл активную роль. Именно он призвал к широкому применению нового средства борьбы — бойкотирования английских лендлордов. Само это слово происходит от собственного имени капитана Бойкотта — управляющего одного из английских имений, который одним из первых испытал на себе этот метод борьбы ирландских фермеров, в результате чего вынужден был покинуть Ирландию. К концу 1880 года число бойкотируемых достигло 2 тысяч англичан, а во многих графствах Ирландии было приостановлено выселение ирландских фермеров-арендаторов.
В 1880 году после парламентских лидеров к власти в Англии приходят либералы во главе с Уильямом Гладстоном, который был вынужден пойти на определенные уступки. В 1881 году принят земельный закон, который частично удовлетворял требования ирландских арендаторов. В то же время Гладстон предостерег ирландских националистов от разжигания смуты в стране. В ответ Парнелл на митинге в Уэксфорде дал суровую отповедь премьер-министру: «Хорошо, что этот маскарадный рыцарь, претендующий на титул защитника прав любой нации, кроме ирландской, сегодня, наконец, сбросил маску и предстал человеком, готовым обрушить огонь и меч на наши хижины».