Родился 10 октября 1887 в деревне Коштуги Вытегорского уезда Олонецкой губернии (ныне Вологодская область). Происходил из крестьянской старообрядческой семьи. От матери Прасковьи Дмитриевны унаследовал любовь к духовным стихам, песням, сказам, преданиям. В 1893—1895 учился в церковно-приходской школе, затем в двухклассном городском училище. Некоторое время посещал Петрозаводскую фельдшерскую школу. В юности много странствовал по дальним скитам и монастырям. Занимался самообразованием, достиг высокого уровня культуры. Первые стихи опубликовал в 1904 в петербургском альманахе «Новые поэты» («Не сбылись радужные грезы…», «Широко необъятное поле…» и др.); в 1905 – в сборниках «Волны» и «Прибой». Принимал активное участие в революционном движении 1905. Был арестован в 1906, провел в заключении полгода, находился под негласным надзором полиции.
По рекомендации А. Блока печатался в журналах «Золотое руно», «Новая земля» и др. В 1912 вышли поэтические книги К. «Сосен перезвон» (с предисловием В. Брюсова) и «Братские песни». До революции опубликовал еще два сборника («Лесные были», 1913 и «Мирские думы», 1916), которые пользовались успехом у читателей. В 1915 возглавил группу т.н. крестьянских поэтов, в которую входили С. Клычков, П. Орешин, А. Ширяевец и др.
Особенно К. сдружился с С. Есениным, с которым поддерживал близкие отношения вплоть до 1917. К. и С. Есенин были практически неразлучны: жили на одной квартире и даже делили одну постель. По воспоминаниям П.А.Мансурова, однажды «
К. восторженно приветствовал октябрьскую революцию. Он воспринял ее как исполнение вековых чаяний крестьянства и посвятил книги стихотворений «Медный Кит» (1918), «Львиный хлеб» (1922), «Четвертый Рим» (1922). Однако, в 1922 появилась критическая статья Л. Троцкого, которая навсегда наложила на К. клеймо кулацкого поэта. На полтора десятилетия К. оказался вытесненным из литературной жизни. Большинство его произведений («Заозерье», «Деревня», «Изба и поле») отклонялись редакциями. В 1931 К. поселился в Москве, где создал эпохальную поэму «Песнь о Великой Матери».
2 февраля 1934 К. был арестован по обвинению в контрреволюционной пропаганде и выслан на пять лет в поселок Колпашево Томской области, в то время административный центр Нарымского округа. Как писал К. поэту Сергею Клычкову, он был «…
На самом деле, травля К. имела не только политическую, но и бытовую подоплеку. В 1918—1923 он очень тесно общался с Николаем Ильичом Архиповым (1887—1967). Учитель истории из Вытегры. Некоторое время заведовал учебной частью школы рабочих подростков в Петрограде, затем был назначен директором петергофских музеев. К. посвятил Н.И.Архипову ряд стихотворений: