Официальными учредителями Общества были Е. Г. Гинцбург и А. М. Бродский. Первое собрание ОПЕ состоялось 18 декабря 1863 г. в Петербурге. Членами-основателями, кроме учредителей, были следующие лица: И. М. Бродский, М. Д. Вайнштейн, М. Б. Райх, Г. О. Гинцбург, Анна Гинцбург, Г. М. Розенберг, Л. М. Розенталь, Ю. М. Розенталь, А. И. Горвиц, А. М. Варшавский, И. Герман, А. Куперник, В. В. Розен, А. И. Зак, Г. В. Бертенсон, Н. И. Горвиц, Н. Левинсон и д-р И. В. Бертенсон. Председателем был избран Е. Г. Гинцбург, секретарем — Э. Д. Левин и казначеем Л. Розенталь.
Основной пункт устава ОПЕ гласил, что в его задачи .входит «способствовать распространению среди евреев русского языка, издавать и содействовать другим к изданию полезных сочинений, переводов и периодических изданий на русском так и на еврейских языках, имеющих целью распространять просвещение среди евреев, — и поощрять пособиями юношество, посвящающее себя наукам и образованию».
Инициаторы ОПЕ обратились к петербургским и иногородним деятелям, приверженцам просветительных идей, с предложением вступить в члены. Наряду с этим были избраны в качестве почетных членов лица, выдвинувшиеся на поприще просвещения, науки и литературы. На ближайшем заседании ОПЕ в его состав, в качестве почетных членов, вошли О. Рабинович, X. 3. Слонимский, С. И. Финн, А. Цедербаум, О. Минор — тогда минский раввин, доктор С. Швабахер, одесский раввин, Г. Каценеленбоген; в члены сотрудники были избраны д-р Л. О. Пинскер, д-р Е. Соловейчик, И. Тарновский и Р. Кулишер. Вскоре примкнули к ОПЕ также профессора: Д. Хвольсон, Б. Утин, В. Федоров (в еврействе — Гринбаум); еврейские писатели — Л. О. Леванда, Л. О. Гордон, С. М. Абрамович, А. Я. Гаркави и Абрам Мапу. Не замыкаясь в узкие рамки «гетто», руководители ОПЕ вовлекли в круг своей деятельности ряд либеральных представителей русского общества, деятелей печати, в первую очередь. В число почетных членов ОПЕ вошли А. Краевский — редактор «Голоса» и «Отечественных Записок», П. Усов — редактор «Северной Пчелы», А. Скачков — редактор «Биржевых Ведомостей», И. В. Вернадский — редактор «Экономиста», И. Балабин — редактор «Народного Богатства», проф. А. И. Георгиевский, А. Ф. Постельс, А. М. Богдановский и ряд других представителей тогдашней столичной интеллигенции.
Одним из первых шагов издательской деятельности ОПЕ был выпуск Библии — Пятикнижия — в русском переводе, под редакцией И. Г. Герценштейна и Л. О. Гордона. Этому изданию деятели ОПЕ придавали большое и положительное значение. Инициатором перевода Пятикнижия и молитвенников с русским подтекстом являлся проф. Д. Хвольсон (как известно, принявший христианство). Однако ревнители ортодоксии заявили резкий протест, узрев в этом переводе библии кощунственное посягательство на святость еврейской Торы.
В первый период своей деятельности ОПЕ, помимо издания полезных по его мнению книг на русском языке, поощряло также писателей к изданию научно-популярных книг на древнееврейском языке в целях распространения знаний, в частности, в области естествознания в еврейской среде. Общество также оказывало поддержку еврейской студенческой молодежи. Расширению деятельности содействовал закон от 28 июня 1865 г., дозволивший евреям ремесленникам, а также обучающимся ремеслу проживать повсеместно в империи. ОПЕ получило в 1867 г. разрешение изменить свой устав в смысле понижения членского взноса (с 25 рублей в год до десяти) и право открывать, отделения. В конце 1867 года было открыто в Одессе отделение ОПЕ, превратившееся постепенно в один из центров еврейской общественности.
В 1874 году ОПЕ приступило к регулярной поддержке еврейских школ, образовав для этой цели особый капитал (преимущественно из взносов семьи барона Гинцбурга), ставя условием предоставления субсидии преподавание русского языка. После смерти барона Гинцбурга, в 1878 году, председателем ОПЕ стал его сын, Г. О. Гинцбург. По его почину создается в 1880 году фонд помощи еврейским студентам. Одновременно ОПЕ начинает обрастать новыми культурными силами, повысившими его престиж и общественный вес. По инициативе известного ученого А. Я. Гаркави образована была особая комиссия для развития издательской работы. Комиссия подготовила к печати пять томов перевода с немецкого еврейской истории Греца и материалов по истории евреев в России. Из наиболее активных членов комиссии ОПЕ следует назвать А. Я. Гаркави, Н. И. Бакста, д-ра Л. И.Каценельсона, Я. М. Гальперна. Секретарем ОПЕ с 1872 года состоял Л. О. Гордон, затем — У. Розенцвейг. В 1882 году ОПЕ сделало серьезный вклад в историческую литературу, издав два тома «Русско-еврейского архива». Расходы ОПЕ за первую четверть века его существования выразились в сумме 324 тысячи рублей, издержанных, по преимуществу, на пособия учащимся в высших учебных заведениях, на поощрение литературным работникам и на единовременную помощь разным лицам.