Александр закончил электротехнический факультет этого вуза. О своей учебе он всегда вспоминал с удовольствием. Пришелся ему по душе и бригадный метод. В его бригаде, например, был представитель от партии и от рабочих. А сам Ахиезер отвечал за решение математических задач и сдачу экзаменов. Как инженер по образованию, Александр Ильич навсегда сохранил особый пиетет к прикладным наукам, никогда не был высокомерен в общении с экспериментаторами — наоборот, с большим интересом расспрашивал их об их работе. Но ему суждено было стать теоретиком. По окончании института он по предложению старшего брата направился в Харьков, чтобы там заняться теоретической физикой, поскольку, по мнению семьи, он уже неплохо в этом разбирался. Разбирался он в физике довольно слабо, что и доказал немедленно начальник теоретического отдела УФТИ Лев Ландау. Об этой первой встрече обожавший Дау Ахиезер не раз вспоминал впоследствии. В институте, который еще пах свежей краской (было это в 1934 году), его встретил Антон Вальтер и повел к Ландау. Лев Давидович встретил его в своем кабинете, закинул ноги на стол и попросил написать уравнение Максвелла в четырехмерной форме. Этого инженер из Киева сделать не мог. Не справился Александр Ильич и со следующим физическим заданием. Ландау это нисколько не смутило. «Вас же в Киеве учили? — переспросил он. — А там не физики, а дантисты». Посмотрим, что Вы знаете по математике». Ахиезеру был предложен интеграл, который он с блеском решил, да еще и нетривиальным методом. (Сказались занятия с братом.) Ландау был вполне удовлетворен и сказал, что берет нового сотрудника в свой теоротдел, но «физику придется изучить».
Молодые люди, которых набирал к себе Ландау, действительно должны были заново учить физику. Лев Давидович разработал теоретический минимум, включавший в себя около восьми основных физических разделов, которые экзаменующиеся должны были знать «на зубок». Всего за его жизнь этот теорминимум сдало около 40 человек, большинство из которых стали академиками. Первым сдавшим был А. Компанеец, вторым многолетний соавтор и друг Дау Евгений Лифшиц, а третьим стал Шура (так его называл Ландау). Сдавшие экзамен могли впоследствии обращаться к учителю на «ты». Многие сотрудники Александра Ильича вспоминают, что у него, как и у самого Дау, была своя иерархия физиков мира. Эйнштейн был Богом, а отношение к Дау у АИ было сродни мистическому преклонению. Ахиезер очень часто его вспоминал, обязательно «пробивал» свои работы и работы своих учеников в Москве у Льва Давидовича.
Лев Ландау собрал вокруг себя несколько талантливейших физиков, совершенно особая, дружеская атмосфера царила в теоретическом отделе УФТИ в середине тридцатых годов. В свите Дау: Евгений Лифшиц, Александр Ахиезер, венгр Ласло Тисса, младший Лифшиц — Илья, Исаак Померанчук. Последний стал ближайшим другом Ахиезера. Одну из первых своих серьезных научных работ «Шура» по поручению Ландау выполнял именно с «Чуком». Молодые харьковские физики работали над созданием теории рассеяния фотона фотоном (или попросту света светом) в области высоких энергий. Дело пошло не сразу. Первые вычисления Ландау резко раскритиковал, но натолкнулся на стойкое несогласие ученика. (В самый горячий момент спора вошел один из сотрудников, взял со стола два подсвечника, дал один Дау, другой Ахиезеру и сказал: «А теперь побейтесь!» Ландау рассмеялся и махнул рукой: «Черт с тобой, считай, как хочешь».) Подсчеты эти были делом непростым. Нужно было, чтобы участвовавшие в формуле 144 члена обратились в ноль. Много дней подряд работники теоротдела наблюдали сидящих за двумя соседними столами Померанчука и Ахиезера, которые независимо друг от друга производили поэтапные вычисления, постоянно переругиваясь и шутя. Потом сверяли результат и переходили к следующему этапу. Как вспоминает Александр Ильич, «потом они стали со свистом сокращаться». Вышел действительно ноль. Чук и Шура были страшно довольны, тем более что учитель признал их успех. Через много лет, когда Исаак Яковлевич Померанчук работал в Москве, Ахиезер часто приезжал к нему, подчиненные Померанчука говорят, что АИ был едва ли не единственным человеком, который мог работать, сидя за столом начальника. Когда при Исааке Яковлевиче упоминали фамилию его друга и «брата», он поднимал палец и многозначительно произносил: «Александр Ильич! Александр Ильич!».