Судя по всему, благодаря связи с «Пенсильванией» Шифф вступил в контакт с компанией «Чесапик – Огайо», которую финансировал в 1903 г., когда «Пенсильвания» приобрела большую долю в правлении «Чесапика». В июле того сложного года Шифф писал Полу Варбургу, что «Кун, Лёб и Кº» предоставили компании небольшой заем сроком на один год и что эти новые отношения, возможно, окрепнут, когда положение снова нормализуется.
В декабре 1906 г., когда «Пенсильвания» распродавала свои акции, вложенные в другие дороги, ожидалось, что ее представители уйдут в отставку из совета директоров «Чесапика», хотя Шифф надеялся, что им не придется так поступить. Фирма «Кун, Лёб и Кº» приобрела долю «Пенсильвании», и многие хотели, чтобы в правление «Чесапика» вошел Шифф или кто-либо из его партнеров; Шифф объяснял, что это невозможно, поскольку он и его партнеры уходили в отставку даже с тех руководящих постов, которые тогда занимали.
Представители «Пенсильвании» не покидали совета директоров до февраля 1909 г., когда Эдвин Холи приобрел контрольный пакет акций «Чесапика» у фирмы «Кун, Лёб и Кº», которая, впрочем, сохранила за собой долю акций, поскольку, как писал Шифф Джеймсу Стиллмену, он считал, что Холи и его помощник, Фрэнк Трамбалл, стремятся расширять дорогу. Шифф поддерживал теплые отношения с Холи и сам выступал за развитие ветки. Он принимал участие в переговорах с целью помочь «Чесапику» закрепить контроль над «Железнодорожной компанией Хокинг-Вэлли» и способствовал выработке политики компании по вопросу о том, как увеличить производительность дороги, что, можно сказать, и послужило основой ее нынешнего процветания. Лучшим свидетельством его успеха стала покупка в марте 1914 г. фирмой «Кун, Лёб и Кº» и действующим совместно с ней «Нэшнл Сити Банком» облигаций на сумму 33 млн долларов на срок пять лет по контракту, в котором, главным образом по настоянию Шиффа, содержалось условие, что «из чистого дохода, полученного после 1 апреля 1914 г., Компания выплачивает Собственнику… ежеквартально… сумму в 2 млн долларов в год до 30 июня 1915 г., в 3 млн долларов в год до 30 июня 1916 г. и по 4 млн долларов в три последующих года до 30 июня 1917, 1918 и 1919 гг. соответственно, каковые суммы в размере 17 млн долларов составляют фонд, который надлежит использовать исключительно на капитальные расходы».
В течение ряда лет, и особенно в ранний период, Шифф поддерживал самую тесную связь с руководством так называемых «дорог Хилла», и отношения, выросшие из них, довольно сильно влияли на его деятельность в последующие тридцать лет. Его отношения с «Нозерн Пасифик» начались по крайней мере за пять лет до того, как он вступил в фирму «Кун, Лёб и Кº»; еще в 1870 г. он упоминал о сделке, заключенной «Баджем, Шиффом и Кº», когда его фирма, представлявшая немецкий синдикат, купила облигации «Нозерн Пасифик» на сумму от 6 до 8 млн долларов.
Позднейшая переписка показывает, что в 1886 г. Шифф и Джеймс Дж. Хилл стали близкими друзьями, но свидетельств об их более ранних сделках нет. В марте 1889 г. Шифф запросил у Хилла подробности обсуждавшегося тогда продолжения «Восточной железной дороги Миннесоты», дочернего предприятия новой компании «Грейт Нозерн». О том, что такие приготовления велись, становится очевидно из письма, которое Шифф написал Хиллу 6 мая. Он выражал радость от изменений, которые произошли в составе совета директоров, и союзов, которые удалось заключить, и сообщал, что «Кун, Лёб и Кº» способны оценить облигации компании в 4,5 % выше номинала; более того, весь пакет приобретенных облигаций помещен в долгосрочные инвестиции.
Со временем их отношения крепли, и Шиффа все больше занимали дела «Грейт Нозерн». Однако он не осуществлял крупное финансирование дороги, потому что Хилл стремился при возможности привлекать капитал пайщиков, а не широкой общественности.
В то время «Нозерн Пасифик» находилась в руках Генри Вилларда, журналиста и финансиста. Шифф был не слишком высокого мнения о деловых качествах Вилларда, но, как он писал Касселю 23 сентября 1889 г., при надлежащем управлении «нет сомнений в том, что «Нозерн Пасифик» – самое многообещающее предприятие на континенте». В том же году он обсуждал с Касселем предложение «Нозерн Пасифик» выпустить облигаций на сумму в 13 млн долларов. Вилларду он написал 12 декабря, выразив желание фирмы приобрести до половины этого количества, чтобы выполнить уже взятые на себя обязательства. Годом позже они собирались, в составе синдиката, приобрести свыше 120 тыс. обычных акций «Нозерн Пасифик» и 100 тыс. привилегированных акций у обанкротившейся «Норс Американ Кº».