Обе воюющие стороны серьёзно подошли к переговорам. Россию представляли председатель Комитета министров (т. е. глава правительства) С.Ю. Витте, а также новый Чрезвычайный и Полномочный посол России в Американских Соединенных Штатах Р.Р. Розен. С японской стороны делегацию на переговорах возглавляли министр иностранных дел Комура Ютаро и посол Японии в США Такахира Когоро.
Сергей Витте являлся не только опытным государственным деятелем, но и хорошо разбирался в проблемах Дальнего Востока, ведь именно он в конце XIX века был инициатором российской экспансии в Маньчжурии. Назначенный в мае 1905 года новым послом в США барон Роман Розен до этого 10 лет проработал дипломатом в Японии и 6 лет служил генеральным консулом в Нью-Йорке – то есть хорошо знал, как японцев, так и американцев.
Российский посол Розен сразу по прибытии в США начал активно работать с американской прессой. Он расточал много комплиментов Америке и её политике, но отказался даже обсуждать возможный ход переговоров и условия будущего мирного договора. В интервью газете «The New York Times» от 4 июля 1905 года барон Розен высказался так: «Ситуация настолько критична, что я не осмелюсь делать ни одного заявления по этому поводу».
Ситуация, действительно, была крайне непростой. Обе стороны хотели прекращения войны и боялись её продолжения, но в остальном их позиции по условиям мирного договора были противоположны. Россия соглашалась уступить Японии чужие земли, то есть территорию Кореи и часть северного Китая, но категорически отказывалась даже обсуждать иные требования японской стороны.
У Токио же были очень большие аппетиты. Япония хотела не только Корею и Маньчжурию, но и большую денежную контрибуцию с России в качестве «возмещения военных расходов». Также японцы требовали передать в их владение Сахалин со всеми ближайшими островами и право ловить рыбу вдоль всего побережья российского Приморья. Однако самыми наглыми были требования Японии отдать ей все российские военные корабли, укрывшиеся в нейтральных гаванях, ограничить число русских войск на Дальнем Востоке и разрушить все укрепления Владивостока.
Ситуация на переговорах для России осложнялась тем, что американский президент Теодор Рузвельт, желая прослыть «миротворцем», всячески пытался уговорить русскую делегацию пойти на уступки Японии. Выражая на словах своё сочувствие русским, дружеское расположение и «сердечное уважение» императору Николаю II, американский президент, тем не менее, «дружески советовал» согласиться на аннексию Японией всего острова Сахалин и выплату контрибуций в пользу Токио. Эти «советы» Рузвельт озвучил как на первой встрече с русским послом Розеном, так и на первой встрече с Витте, когда тот приехал в США.
Естественно, Россия не могла согласиться на такие требования Японии и «советы»» Америки. Ход переговоров обещал быть крайне сложным.
Переговоры России и Японии начались на северо-востоке США, в штате Нью-Гемпшир, в небольшом американском городке Портсмут, в 400 километрах от Нью-Йорка. Первая встреча русских и японских дипломатов произошла 26 июля (9 августа нового стиля) 1905 года.
Любопытно, что японцы начали работу с фактической взятки жителям американского городка. Глава МИД Японии Комура Ютаро выписал дал чек на 20 тысяч долларов для пожертвования в благотворительный фонд города Портсмут «в знак благодарности его жителям». 20 тысяч долларов вековой давности это свыше миллиона долларов в современных ценах.
Всего в течении месяца, с начала августа до начала сентября 1905 года, состоялось 12 русско-японских заседаний, каждое из которых дополнялось несколькими личными совещаниями глав делегаций – Комуры Ютаро и Сергея Витте.
На переговорах Витте руководствовался указаниями Николая II: «Россия не заплатит ни копейки и не уступит ни дюйма своей территории». Категорический отказ платить контрибуцию являлся для русской делегации самым главным фактором, определяющим всю стратегию ведения мирных переговоров с японцами. Не смотря на поражения в боях, русская делегация пыталась доказать, что Россия – не побежденная нация. Ни последующие уступки Японии, ни различные доводы Рузвельта не смогли заставить русских поменять своё решение.
Витте изначально выбрал удачную тактику переговоров – он сразу отложил обсуждение спорных вопросов, начав с обсуждения таких, по которым легко можно было договориться. Этим выигрывалось время, в том числе и для того, чтобы повлиять на настроения американцев. Кроме того, достигнув согласия по наибольшему числу пунктов, можно было затем возложить вину за возможный срыв переговоров на Японию.