В годовщину его смерти в ПХС было совершено торжественное заупокойное богослужение, на котором Г.Б. Слиозберг сказал: «Он был человеком исключительным, и исключительным является многое после его смерти. В исключение из общего правила, мы отпевали и хоронили его в день Пурима, тогда, когда у евреев не оплакивают умерших. Траурный год после его смерти длился не 12 лунных месяцев, а 13. В исключение из общего правила, я, не будучи раввином, должен говорить с амвона в синагоге. Если он был велик как филантроп, как меценат, как печальник своего народа и радетель о его нуждах, то его хватало и на то, чтобы нести самые нежные заботы об истинной религиозности, о сохранении в еврействе лучших традиций и распространении великих начал еврейского вероучения. Г.О. Гинцбург не разделял взгляда, что образование евреев должно происходить с их освобождением от “талмудических суеверий”, что просвещение их не может совмещаться с истинной преданностью лучшим идеалам Талмуда. Он был одним из тех, кто всей своей жизнью доказал, насколько могут в полной гармонии уживаться просвещение и культура с истинной религиозностью и приверженностью к старине. Он верил в то, что истинная просвещенность на почве иудаизма будет источником электрического тока, который даст энергию громадного света, будет освещать все вокруг далеко за пределами еврейства».
В 1910 г. Комиссия для обсуждения вопросов, связанных с увековечением памяти Г.О. Гинцбурга, учитывая его заслуги перед всем еврейством России, «нашла целесообразным учредить при проектируемом еврейском учительском институте его имени богословские классы для подготовки просвещенных наставников еврейских общин». Однако этот проект в результате дополнительного обсуждения на заседании представителей столичных еврейских учреждений 21 марта 1910 г. был признан несвоевременным. На заседании правления ПХС 25 апреля 1910 г. было подтверждено ранее принятое решение об устройстве в ней музея им. Г.О. Гинцбурга. В 1911 г. отмечалось, что продолжалась подготовка к его созданию, были выделены для этого необходимые средства. В четвертую годовщину его кончины (1913) в ПХС было проведено богослужение в его память, на котором присутствовали его дети, еврейские религиозные и общественные деятели. После этого было произведено открытие помещения, приспособленного для музея его имени, где хранились адреса и вещи, поднесенные ему в день 75-летия, а также венки, возложенные на гроб. «Был составлен подробный каталог музея, которому предпослали описание истории его создания и открытия». В феврале 1914 г. в пятую годовщину смерти Г.О. Гинцбурга в ПХС состоялось заупокойное богослужение, где с речью выступил М.Г. Айзенштадт, который говорил о его значении для ПЕО. Состоялось оно и в шестую годовщину – 10 февраля 1915 г. (последнее открытое упоминание имени этого деятеля с его положительной оценкой).71
Большой интерес вызвало опубликованное в 1912 г. сообщение о том, что английская судебная администрация открыла завещание Г.О. Гинцбурга. Из него следовало, что он оставил в виде наследства, кроме имущества в России, имение в Англии, оцененное в 390 тыс. фунтов стерлингов, которое им было разделено между десятью его детьми. Узнав об этом, многие не могли понять, как такой известный жертвователь на еврейские нужды ничего не оставил из этого еврейским обществам России. Как бы предвидя это, он в завещании писал: «Я всегда следовал примеру своих предков и постоянно помогал евреям. Поэтому я не нахожу нужным завещать единовременную сумму на благотворительные цели, так как я не сомневаюсь, что дети мои, оставаясь верными традициям их предков, будут отзываться на все нужды еврейского народа и будут постоянно поддерживать его благотворительные учреждения». В печати было сообщение о том, что в Петербурге в начале 1912 г. существовала Комиссия по распределению наследства Г.О. Гинцбурга. В ее состав входили его сыновья Александр и Альфред, Г.Б. Слиозберг и М.И. Шефтель. Они выделили 200 тыс. руб. для помощи еврейским учреждениям и распределили их между ними.72
Но имели ли эти средства отношение к британскому наследству или относились к российскому, сказать трудно.