Одновременно он начал проводить теоретические исследования в области атомного ядра. Изучив экспериментальные данные, Тамм и С. Альтшуллер предсказали, что нейтрон, несмотря на отсутствие у него заряда, обладает отрицательным магнитным моментом (физическая величина, связанная, помимо прочего, с зарядом и спином). Их гипотеза, к настоящему времени подтвердившаяся, в то время расценивалась многими физиками-теоретиками как ошибочная. В 1934 году Тамм попытался объяснить с помощью своей так называемой бета-теории природу сил, удерживающих вместе частицы ядра. Согласно этой теории, распад ядер, вызванный испусканием бета-частиц (высокоскоростных электронов), приводит к появлению особого рода сил между любыми двумя нуклонами (протонами и нейтронами). Используя работу Ферми по бета-распаду, Тамм исследовал, какие ядерные силы могли бы возникнуть при обмене электронно-нейтринными парами между любыми двумя нуклонами, если такой эффект имеет место. Он обнаружил, что бета-силы на самом деле существуют, но слишком слабы, чтобы выполнять роль «ядерного клея». Год спустя японский физик Х. Юкава постулировал существование частиц, названных мезонами, процесс обмена которыми (а не электронами и нейтрино, как предполагал Тамм) обеспечивает устойчивость ядра.
В 1936- 1937 годах Тамм и Франк предложили теорию, объяснявшую природу излучения, которое обнаружил Павел Черенков, наблюдая преломляющие среды, подверженные воздействию гамма-излучения. Хотя Черенков описал данное излучение и показал, что это не люминесценция, он не смог объяснить его происхождение.
Академик А.Н Крылов писал П.Л. Капице в 1943 году:
«Черенков произвел множество трудных опытов и нашел ряд закономерностей в явлении, отмеченном Вавиловым. Результаты своих экспериментальных исследований Черенков изложил в своей докторской диссертации.
Одновременно Тамм и Франк стали изучать вопрос, поставленный Вавиловым, теоретически, и Тамм создал полную теорию описанного явления. Уже было известно, что в жидкости электрон может двигаться со скоростью V, которая больше скорости света C в этой жидкости. Тамм исследовал математически, - каково же будет электромагнитное поле такого "сверхскоростного электрона". Путем глубокого и сложного математического анализа Тамм обнаружил, что при движении электрона надо различать два случая, именно: если V«C, и если V»C […]. В первом случае равномерно движущийся электрон не излучает, во втором возникает свечение внутри некоторого конуса.
По математической теории, развитой Таммом, замеченное Вавиловым явление получило полное объяснение и было проверено, как уже сказано, экспериментально Черенковым и затем более мощными радиоактивными препаратами в США.
Тамм глубоким и искусным математическим анализом создал полную теорию излучения "сверхскоростным" электроном в диспергирующей жидкости. Замеченное Вавиловым явление получило полное объяснение и стало доступным предвычислению, результаты которого сходятся во всех деталях с наблюдением.
Аналогия с Леверье полная, только Леверье вычислил движение Нептуна, который в 60 раз больше Земли, а Тамм движение электрона, который в миллионы раз меньше пылинки».
Тридцатые годы - время «большой чистки». «Тогда Игорь Евгеньевич Тамм лишился трех очень близких ему людей: младшего брата, друга, приобретенного еще в школьные годы, и любимого ученика, - пишет Г.Е. Горелик. - Почему его самого не объявили "врагом народа", понять трудно, но в хаосе Великого Террора таких непонятных вещей много. Ясно только, что тогда звание члена-корреспондента Академии наук не защищало, а ядерная физика еще не стала стратегической профессией».
Теоретический отдел института, созданный и руководимый Таммом, был ликвидирован, а все его сотрудники распределены по другим лабораториям. Но научный семинар теоретиков продолжал еженедельно работать под руководством Тамма, научные контакты полностью сохранялись, а впоследствии, после возвращения института из эвакуации в 1943 году, как-то незаметно прежний Теоретический отдел был восстановлен. Такое вялое реагирование дирекции института было возможно, конечно, только потому, что директором был С.И. Вавилов.
С 1946 года Тамма привлекли к рассмотрению некоторых вопросов атомного проекта. Когда возникла задача создания еще более страшного оружия - водородной бомбы, Игорю Евгеньевичу было предложено организовать в Теоретическом отделе группу для изучения вопроса.
Тамм собрал группу из молодых учеников-сотрудников, в которую вошли, в частности, В.Л. Гинзбург и А.Д. Сахаров, уже через два месяца выдвинувшие две важнейшие оригинальные и изящные идеи, которые и позволили создать такую бомбу менее чем за пять лет. В 1950 году Тамм и Сахаров переехали в сверхсекретный город-институт, известный теперь всем как Арзамас-16.
Работа над реализацией основных идей была необычайно напряженной и трудной. В Арзамасе-16 Игорь Евгеньевич сыграл огромную роль и своими собственными исследованиями, и как руководитель коллектива теоретиков. Он даже был одним из участников реального испытания первого «изделия» летом 1953 года.