Перед выездом за границу Поляков прошел курсы подготовки. Он был обучен работе с шифрами и оперативной техникой. Одновременно с этим он прошел подготовку по системе связи контрразведывательных органов США, практическом использовании портативных радиостанций для прослушивания работы контрразведки.
В задании на командировку, утвержденном руководством ГРУ 2 октября 1959 г., указывалось, что Поляков назначается на должность заместителя резидента в Нью-Йорке. На него возлагалось руководство работой группы офицеров 1-го управления, основной задачей которых являлось обеспечение агентурной безличной связи с разведчиками-нелегалами и совершенствование этой связи, а также изучение кандидатов для вербовки и вербовка агентов для обеспечения работы ГРУ с нелегальных позиций в США.
Перед выездом за границу Полякову были еще даны письменные указания по работе в США. Ему запрещалось участвовать в проведении агентурных операций. Всю работу он обязан был строить на основе активного использования легальных возможностей и заведение доверительных связей с целью получения документальной и устной информации.
Осенью 1959 г. Поляков с женой и двумя маленькими сыновьями прибыли в Нью-Йорк. Поселившись в гостинице квартирного типа под названием «Камерун», он с первых же дней активно включился в работу. Трудился много, заставляя «крутиться» и своих подчиненных. Слежка за ним началась буквально на следующий день. Американцы сразу приняли ряд активных мер по затруднению его выездов в город на автомобиле. Дважды ему приходилось прочищать и промывать бензобак, из которого он извлекал презервативы и полиэтиленовые пакеты. Во время движения они периодически перекрывали подачу бензина, и автомашина останавливалась в самых неподходящих для ремонта местах. Когда причина остановок была выяснена, он нашел способ для быстрого устранения ее. В таких случаях он становился на задний бампер и начинал раскачивать машину, отверстие бензопровода открывалось и можно было продолжать движение. Очень часто во время остановок ему под колеса устанавливали специальные гвозди. Приходилось перед началом движения внимательно осматривать дорогу. Трижды он извлекал такие гвозди и после этого их установка прекратилась.
Вскоре Поляков установил, что агенты ФБР оборудовали его машину сигнализатором. Сразу после покупки машина «Форд» была обследована специалистами резидентуры, но ничего подозрительного обнаружено не было. Заметил он это тогда, когда агенты ФБР стали отпускать его далеко за пределы видимости и он не фиксировал наблюдения за собой, а затем вдруг появлялись рядом с его машиной, улыбаясь ему, они не раз махали ему руками.
Нужно заметить, что в этот период Поляков очень опасался публикаций в американской прессе с обвинением в шпионаже. Было не мало случаев, когда советских граждан, в том числе и сотрудников ГРУ, работавших под прикрытием в США, американцы публично обвиняли в проведении несовместимой с занимаемым статусом деятельности, поэтому он регулярно просматривал множество газет, но пока все обходилось, публикаций о нем не было.
Во второй своей командировке в США Поляков много времени отдавал совершенствованию связи с нелегалами. Он обучил искусству связи ряд своих офицеров, тех кого считал пригодными к этой важной и сложной работе. Вскоре он со своими оперативниками создал такие системы связи с нелегалами, при которых отпала необходимость в личных встречах с ними. Была разработана такая связь, что она не могла установить источника снабжения нелегалов средствами и не выводила на лиц, осуществлявших связь. Под его руководством была разработана надежная и не привлекающая внимания проверка на слежку.
Осенью 1961 г. центр поручил Полякову задание познакомиться с командующим 1-й армией генерал-лейтенантом О’Нейли и пригласить того на обед. Поляков решил действовать через помощника командующего 1-й армией – секретаря американской делегации в ВШК ООН полковника Фейхи.
Во время обеда у Полякова, который состоялся 12 октября 1961 г., он выяснил у Фейхи, что О’Нейли очень общительный человек, Поляков спросил у Фейхи, примет ли генерал приглашение посетить советского полковника на его квартире. Американец ответил, что он предварительно выяснит этот вопрос и о результате сообщит ему. Через несколько дней Фейхи позвонил Полякову и сообщил, что генерал О’Нейли примет его приглашение. Однако, когда Поляков позвонил О’Нейли, тот предложил ему пообедать у него на квартире в семейном кругу. Генерал сказал, что это его единственный свободный день в этом месяце и он хотел бы его провести дома с семьей. После согласования с резидентом Поляков принял это приглашение. Обед действительно был семейным. На нем присутствовал О’Нейли с женой и дочерью, полковник Фейхи с женой и двумя дочерями и Поляков с женой. Так завязались отношения Полякова с О’Нейли, обладавшим огромными связями. Он изучал этого человека не только по заданию центра. Он решил, что этот генерал поможет ему выполнить его замысел.