В феврале 1917 года Калинин среди большевиков был вторым лицом после Шляпникова. Когда начались массовые забастовки, в которых активно участвовали рабочие с заводов Выборгской стороны и Путиловского завода, он был в передовых рядах, участвовал в занятии Финляндского вокзала — там разместился местный Совет, а потом во взятии тюрьмы «Кресты». Он был избран в редколлегию «Правды» и стал членом исполкома Петросовета.
В сентябре 1917‐го его избрали председателем районной управы Выборгской стороны, где проходили нелегальные собрания и шла подготовка вооруженного восстания с участием Ленина. Полиции уже практически не было, а выборгские милиционеры сочувствовали большевикам, но Ленину ещё приходилось ходить загримированным.
После Октябрьской революции эсеровское большинство гордумы сразу выступило против советской власти и поддержало восстание юнкеров 29 октября и поход Керенского и Краснова на Петроград. Потому вопрос о ликвидации «контрреволюционной Думы» был предрешен, и Калинин стал городским головой Петрограда — мэром Петрограда — и находился на этой должности до 1919 года
Затем, после смерти Свердлова, Ленин, учитывая его крестьянское происхождение и хорошее знание рабочей среды, предложил ему переехать в Москву и возглавить ВЦИК. Калинин оправдал его надежды — он постоянно общался с массами.
Однако тогда Калинин еще имел собственное мнение и открыто высказывал его. Осенью 1918 года Ленин изменил политику партии к середняку, отменив комбеды, Калинин в январе 1919 года в «Петроградской правде» опубликовал статью «Мелкая буржуазия и диктатура пролетариата», где писал: «Я думаю, не погрешая против основных принципов коммунизма, мы можем дать мелкой буржуазии не меньше, чем давал ей капиталистический строй… Правительство разрешает крестьянину, ремесленнику, кустарю, мелкому огороднику, мелкому торговцу, молочнику пользоваться наемным трудом под контролем Совета профессиональных союзов. Большего мелкий буржуа в истории никогда не имел и его претензии дальше не идут».
В отличие от многих левых большевиков, он не был сторонником террора, готов был договариваться, даже со вчерашними противниками и мятежниками в Кронштадте, куда он отправился вместе с женой Екатериной Лорберг по льду Финского залива. Они пытались выступить на митингах перед восставшими матросами. Но его хотели арестовать на выезде из Кронштадта. Трусом он не был и умел говорил доступным для масс языком.
Он оправдывал изъятие ценностей у церкви потому, что Святейший патриарх Тихон благословил на передачу части церковной утвари и окладов с икон на помощь голодающим, но золотые потиры и дискосы отдавать было запрещено.
На посту председателя ВЦИК Калинин работал много, энергично и побывал на большинстве фронтов Гражданской войны на поезде «Октябрьская революция». Однако он никогда не был сильным лидером. Ему не чужды были многие человеческие слабости — он не хотел лишиться своих привилегий. Но Сталин настойчиво проводил свой курс, и с начала 30‐х годов Калинин уже никогда не выступал против его политики. В награду за «послушание» Сталин оставил ему все его посты и привилегии.
В 1932 году Калинин подписал постановлением ЦИК СССР «Об охране имущества государственных предприятий, колхозов и кооперации…», что привело к арестам и длительному заключению миллионов бедняков и середняков за «кражу» горсти зерна у колхоза. Его постановление о паспортной системе лишило крестьян свободы передвижения, а постановлением от 1934 года «О порядке ведения дел о подготовке и совершении террористических актов» ввело систему внесудебных репрессий на детей с 12‐летнего возраста и другие.
В 1936–1938 годах репрессии коснулись и большинства членов ЦИК СССР, в том числе друга Калинина и Сталина Енукидзе, который был расстрелян в 1937 году. Погибли также секретари ЦИК Кисилев, Акулов и Уншлихт, уцелели только Калинин и Горкин. На одной из встреч Калинина откровенно признался: «Ничего у меня не просите, я человек безвластный…»
В действительности Калинин не был совсем безвластным, как и безгрешным. Верховный Совет законодательно обеспечивал повседневную жизнь страны и людей. Даже вручение орденов передовикам и героям, верительных грамот послам. Поэтому 30‐х годах во главе СССР были не только Сталин и Ворошилов, Молотов и Микоян, Ежов и Берия, но и Калинин. При этом «всесоюзного старосту» подозревали в изнасилованиях и убийстве, а свою жену Голду-Екатерину он спокойно отправил в лагеря.
Увлечение балеринами, певицами и представительницами других творческих профессий было модно во власти ещё с царских времён. Советские партийные элиты не уступали в этом царским министрам. Любовница Сталина Вера Давыдова в книге «Кремлёвские козлы. Исповедь любовницы Сталина» писала о пристрастии Калинина к танцовщицам.