Родился в семье крестьянина-бедняка. Грузин. Член РСДРП(б) с марта 1917 г. Член ЦК ВКП(б) с 1934 г. (избирался на XVII–XIX съездах), кандидат в члены Политбюро ЦК ВКП(б) с 22 марта 1939 г., член Политбюро ЦК ВКП(б) (затем Президиума ЦК КПСС) с 18 марта 1946 г., член Бюро Президиума ЦК КПСС (16 октября 1952 — 5 марта 1953 г.). Депутат Верховного Совета СССР I–III созывов, член Президиума ВС (17 января 1938 — 31 мая 1939 г.). Герой Социалистического Труда (1943 г.). Лауреат Сталинской премии I степени (29 октября 1949 г.).
Учился в Сухумском высшем начальном училище, занимался репетиторством с учениками младших классов. Окончив училище с отличием в 1915 г. уехал в Баку, где поступил в Бакинское среднее механико-строительное техническое училище. С этого времени занимался также подпольной революционной деятельностью: в октябре 1915 г. с группой товарищей организовал в училище нелегальный марксистский кружок, в котором был казначеем, а в марте 1917 г. — ячейку РСДРП(б). На каникулах летом 1916 г. работал практикантом в Главной конторе Нобеля в Балаханах.
С июня 1917 г. служил в Российской Императорской Армии: Техник-практикант гидротехнического отряда, Румынский фронт, служил в Одессе, затем в Пашкани (Румыния).
В конце 1917 г., после революции и развала фронта вернулся в Баку, в январе — сентябре 1918 г. работал в секретариате Баксовета. После оккупации Баку турецкими войсками остался в городе, в октябре 1918 — январе 1919 г. работал конторщиком на заводе «Каспийское товарищество Белый Город». Одновременно, продолжал обучение в Бакинском среднем механико-строительном техническом училище, которое окончил в 1919 г. В феврале 1919 — апреле 1920 г. был председателем подпольной ячейки РКП(б) техников, осенью 1919 г. по поручении партии «Гуммет» (Мусульманская социал-демократическая партия. В 1920 г. объединилась с бакинской организацией РКП(б)) был внедрен в Комиссию по борьбе с контрреволюцией мусаватистского правительства Азербайджана. После убийства в марте 1920 г. другого большевистского агента — заместителя начальника Комиссии М.Муссеви — оставил работу в этой спецслужбе, в марте — апреле 1920 г. работал на Бакинской таможне. В 1920 г. поступил в Бакинский политехнический институт, учебу в котором с перерывами продолжал до 1922 г.
После установления в Азербайджане Советской власти в апреле 1920 г. направлен в Тифлис для работы в подполье в качестве уполномоченного Кавказского крайкома РКП(б) и Регистрода 11-й армии, однако в том же месяце был арестован грузинскими спецслужбами. Был освобожден с предписанием в 3-дневный срок покинуть страну, однако остался в Грузии под фамилией Лакербая, работал в Полпредстве РСФСР в Грузии. В мае 1920 г. выезжал в Баку в регистрод за получением директив в связи с заключением мирного договора с Грузией, на обратном пути в Тифлис был вновь арестован. Содержался в тюрьме в Кутаиси. В июле 1920 г. по требованию советского полномочного представителя С. М. Кирова был освобожден и в августе выслан в Азербайджан.
С августа 1920 г. работал управделами ЦК КП(б) Азербайджана, с октябре 1920 г. — ответственным секретарем Чрезвычайной Комиссии по экспроприации буржуазии и улучшению быта рабочих. После упразднения этой комиссии в феврале 1921 г. возвращается к учебе.
C 1921 г. работал в органах ЧК:
Заместитель начальника Секретно-оперативного отделения Азербайджанской ЧК (апрель — май 1921 г.)
Заместитель председателя Азербайджанской ЧК — начальник Секретно-оперативной части (май 1921 — ноябрь 1922 г.)
Заместитель председателя Грузинской ЧК (с марта 1926 г. — ГПУ Грузинской ССР) — начальник Секретно-оперативной части (ноябрь 1922 — 2 декабря 1926 г.)
Заместитель полпреда ОГПУ в ЗСФСР — заместитель председателя Закавказского ГПУ (2 декабря 1926 — 17 апреля 1931 г.), одновременно с декабря 1926 г. — начальник Секретно-оперативного управления полпредства ОГПУ
Нарком внутренних дел Грузинской ССР (4 апреля 1927 — декабрь 1930 г.)
Полпред ОГПУ в ЗСФСР и начальник ОО ОГПУ Кавказской краснознаменной армии (17 апреля — 3 декабря 1931 г.)
Член Коллегии ОГПУ при СНК СССР (5 августа — 3 декабря 1931 г.)
В 1931 г. перешел на партийную работу: 2-й секретарь Закавказского крайкома ВКП(б) (31 октября 1931 — 17 октября 1932 г.), 1-й секретарь ЦК КП(б) Грузинской ССР (14 ноября 1931 — 31 августа 1938 г.), 1-й секретарь Закавказского крайкома ВКП(б) (17 октября 1932 — 5 декабря 1936 г.), 1-й секретарь Тбилисского горкома КП(б) Грузинской ССР (май 1937 — 31 августа 1938 г.).
В августе 1938 г. был переведен для работы в НКВД в Москву:
1-й заместитель наркома внутренних дел СССР (22 августа — 25 ноября 1938 г.)
Начальник 1-го Управления (госбезопасности) НКВД СССР (8 — 29 сентября 1938 г.)
Начальник ГУГБ НКВД СССР (29 сентября — 17 декабря 1938 г.)
Нарком внутренних дел СССР (25 ноября 1938 — 29 декабря 1945 г.)