В 1917 году Иоффе был освобождён Февральской революцией, приехал в апреле в Петроград как меньшевик-интернационалист, вошёл в организацию «межрайонцев», возглавляемую Троцким. Вместе с Троцким издавал журнал «Вперёд».
С тех пор, как 10 мая 1917 года, на конференции «межрайонцев», Ленин предложил объединиться, — к чему многие члены организации, в том числе А. В. Луначарский, отнеслись скептически, — вместе с Троцким боролся за объединение с большевиками. В августе 1917 года был избран в Петроградскую городскую думу, где возглавил фракцию большевиков. Был также членом Демократического совещания и Предпарламента. Член Петроградского Военно-революционного комитета, по свидетельству Л. Троцкого во время Октябрьского переворота 24–25 октября был председателем Петроградского Военно-Революционного комитета, то есть формальным руководителем переворота большевиков.
Был делегатом 2-го Всероссийского съезда советов и избран членом ВЦИК. После Октябрьской революции был направлен на работу в Наркомат иностранных дел. С 1922 года — чрезвычайный посол в Китае и Японии. С 26 июля 1922 года — представитель Советского правительства в Пекине. 26 января 1923 года вместе с Сунь Ятсеном опубликовал известную «Декларацию Сунь Ятсена и Иоффе». В Японии в 1923 году Иоффе заболел тяжелой инфекционной болезнью, известной как множественный полиневрит. В связи с болезнью был направлен в Австрию, где прошёл курс лечения. С 1924 года — полпред в Вене.
Будучи ещё с 1912 года верным сторонником Троцкого, Иоффе с 1923 года принадлежал к левой оппозиции. После назначения Л. Д. Троцкого председателем Главного концессионного комитета СССР, с июня 1925 года стал заместителем председателя комитета. В 1925–1927 годах — заместитель Председателя Главконцесскома СССР Троцкого.
Тяжелая болезнь (полиневрит) приковала Иоффе к постели и лишила возможности активно участвовать в борьбе, при этом ЦК ВКП(б) отказал ему в деньгах, достаточных для лечения за границей. Это обстоятельство стало, по его собственному признанию, причиной самоубийства. 17 ноября 1927 года А. А. Иоффе застрелился.
В своем 10-страничном предсмертном письме, адресованном Троцкому, Иоффе писал: