Его похороны состоялись 28 сентября в синагоге «Эману-Эль» в Нью-Йорке. Здание было заполнено народом, и многотысячная толпа стояла на Пятой авеню, принося ему безмолвную дань памяти. Движение остановилось; Нью-Йорк прощался с Шиффом. Со всей Америки и из других частей света приходили телеграммы, письма, произносились речи в его честь, публиковались некрологи в газетах и других периодических изданиях. Из сотен писем и телеграмм отобраны лишь следующие:
«26 сентября 1920 г.
Позвольте выразить Вам свои самые искренние соболезнования по случаю кончины Вашего выдающегося супруга. С его смертью страна потеряла одного из самых своих полезных граждан.
«Он был действенным созидателем добрых дел; он поддерживал все, что предназначалось для блага человека; его возвышенный ум… был так же велик, как его щедрость, которая не знала границ.
«Штат потерял почетного гражданина, а человечество – великодушного друга.
«Его услуги для общества неоценимы; а его твердый характер и великие достижения неизменно останутся в нашей памяти.
«С глубокой скорбью узнал я печальную весть. Шлю Вам свое самое теплое сочувствие, ибо Вы потеряли лучшего из мужей, как я потерял лучшего из друзей.
Но тысячи людей, которые пришли на его похороны, возможно, лучше любых слов свидетельствовали о его репутации и о том уважении, которое он вызывал.