Потопление "Лузитании" потрясло Шиффа, ознаменовав начало его разочарования в Германии. На следующий день после этого, когда тела погибших все еще вытаскивали на берег в ирландском морском порту Квинстаун (позднее Кобх), Шифф без предупреждения посетил офис J.P. Morgan & Co. Это была суббота, когда благочестивого банкира обычно можно было найти на скамьях храма Эману-Эль, читающего свои шаббатные молитвы, но новость настолько потрясла его, что он отложил свои обычные дела и отправился в центр города, чтобы найти Джека Моргана.
Через месяц после смерти Пирпонта старое здание фирмы на Уолл-стрит, 23 , было снесено, чтобы освободить место для новой штаб-квартиры по проекту Троубриджа и Ливингстона - приземистого треугольного здания, для которого требовалось так много теннессийского мрамора, что партнеры J.P. Morgan приобрели карьер, чтобы обеспечить готовые поставки. Внушительные, без опознавательных знаков двери "Уголка", как называли культовое здание, открывались на пересечении улиц Уолл и Гранд. В краеугольный камень здания была вложена медная шкатулка, в которой хранились устав фирмы, завещание Пьерпонта и копия показаний покойного банкира перед комитетом Пуджо.
Шифф нашел Джека Моргана в отделанной деревянными панелями комнате для партнеров. Джек был высоким и широкоплечим, как его отец. Он также был англофилом и владел поместьем в английской сельской местности. У J.P. Morgan & Co. были партнерства в Лондоне и Париже - Morgan Grenfell и Morgan Harjes, соответственно, - и с самой первой бомбардировки войны фирма тесно сотрудничала с союзниками, даже выступила в роли агента по закупкам для британского и французского правительств.
Джек разделял подозрения своего отца в отношении еврейских банкиров, а прогерманские взгляды Шиффа и других евреев в кругах Уолл-стрит способствовали формированию его антисемитских убеждений. Он сказал одному из своих партнеров, что винит "элемент немецких евреев, который очень близок к послу Германии", в разжигании движения за мир и препятствовании Соединенным Штатам в выборе стороны в конфликте.
Напряженные отношения между Kuhn Loeb и J.P. Morgan & Co. возникли еще во времена их борьбы за Northern Pacific, однако фирмы по-прежнему сотрудничали при размещении крупных облигаций. Ради совместного бизнеса Джек должен был поддерживать с Шиффом дружеские отношения, как это делал его отец. Именно по этой причине Шифф, прекрасно осведомленный о приверженности Моргана, посетил своего коллегу, чтобы лично выразить свое сожаление по поводу трагедии и осудить Германию за "это прискорбное безобразие".
Но слова сочувствия Шиффа, произнесенные с густым немецким акцентом, вызвали у Моргана гнев, и маска коллегиальности на мгновение спала. Морган повернулся к Шиффу спиной, отказываясь разговаривать с ним. Как только Шифф ушел, заметно осклабившись, Морган вновь обрел самообладание. "Полагаю, я зашел слишком далеко", - заметил он одному из своих партнеров, Дуайту Морроу, который наблюдал за этой встречей в ошеломленном молчании. "Полагаю, мне следует извиниться". Морроу нацарапал на листке бумаги стих из Иезекииля и протянул его Моргану: "Не ради тебя, но ради имени твоего, о дом Израилев!" Морган взял свою шляпу и отправился вслед за Шиффом.
Отношения удалось сгладить, но этот эпизод показал, что связь Kuhn Loeb с Германией становилась помехой. Для J.P. Morgan & Co. и других инвестиционных домов с голубой кровью война была выгодна. Но настойчивость Шиффа на нейтралитете означала, что его фирма упускала выгодные возможности для бизнеса. Kuhn Loeb, долгое время шедшая вровень с J.P. Morgan по престижности, теперь отставала, рискуя потерять статус первоклассного инвестиционного банка.
Шифф понял, что ситуация изменилась. Прогуливаясь по Бар-Харбору однажды летом во время войны, он разговаривал с Фридой на немецком языке, как он обычно делал. "Отец, мы больше не можем этого делать", - сказала она, внезапно застеснявшись. Эндаумент Шиффа в Корнелле, способствующий развитию немецкой культуры, теперь казался комически не вовремя. По его предложению университет расширил свою направленность на изучение "человеческой цивилизации". Финансист, и без того стеснявшийся публичности, старался держаться еще менее заметно, променяв свою ложу в Метрополитен-опере на менее заметные места в оркестре. "Когда я спросил его, получает ли он такое же удовольствие от оперы с этих мест, как и со своего привычного места, - вспоминал один из друзей, - он ответил, что дело не в удовольствии, а в том, что в те ужасные времена, которые мы тогда переживали, лучше, чтобы все мы были настолько незаметны, насколько позволят обстоятельства"