Матерью Ольги Борисовны была Мария Александровна Талызина (1834–1904). Мария Александровна являлась правнучкой великого генералиссимуса Александра Васильевича Суворова и внучкой женатого на дочери светлейшего князя Наталье обер-шталмейстера графа Николая Александровича Зубова. Последний более всего известен как один из основных участников убийства императора Павла I — именно он нанес государю удар в висок золотой табакеркой.
О детстве и юности Ольги Борисовны сведений осталось не слишком много, но известно, что семья Нейдгардт была глубоко религиозной. И, конечно, нельзя считать случайностью истории, что, принявший мученическую кончину, ее старший брат Алексей (1863–1918) был в 2000 году Русской православной церковью причислен к лику святых новомучеников и исповедников российских.
Алексей Борисович занимал ряд значительных постов в государственном управлении империи (в том числе нижегородского губернского предводителя дворянства, екатеринославского губернатора, члена Государственного совета) и был одним из главных соратников Столыпина в его преобразованиях.
По его инициативе в Государственном совете была образована простолыпинская группа правого центра, ставшая главным двигателем в продвижении подготовленных правительством законопроектов. Не вызывает сомнения, что без активной помощи Нейдгардта многие важные инициативы премьера были бы похоронены в Государственном совете, в котором было немало убежденных противников Петра Аркадьевича.
После Февральского переворота Алексей Борисович уехал в Нижегородскую губернию, где не побоялся летом 1918 года открыто выступить против начавшихся гонений на православную церковь. 17 июня он совместно с викарием Нижегородской епархии епископом Лаврентием (Князевым) и настоятелем Нижегородского кафедрального собора протоиереем Алексеем Порфирьевым подписал воззвание с протестом против закрытия храмов и грабежа церковного имущества. После этого все трое были арестованы, а спустя несколько месяцев расстреляны, и тела их были сброшены в Волгу.
История знакомства Петра Аркадьевича с будущей женой была не только романтична, но и драматична — можно даже сказать, что их брак был скреплен кровью. Сначала Ольга Борисовна была невестой его брата Михаила — прапорщика лейб-гвардии Преображенского полка, смертельно раненного в сентябре 1882 года (как раз накануне свадьбы) на дуэли с князем Шаховским. Причиной дуэли послужило оскорбление Шаховским чести племянницы князя (с которой Михаил был ранее близок) — несмотря на расставание Михаил Столыпин, не колеблясь, выступил ее рыцарем-защитником.
После ранения брата Петр Аркадьевич посчитал своим долгом самому драться с князем Шаховским на дуэли. Он находит князя в Пятигорске и, чтобы тот не смог отказаться от поединка, бросает ему в лицо стакан с нарзаном и называет негодяем.
Заметим, что в истории с дуэлью проявилось убеждение Столыпина, что ничего не может быть выше чести. Именно поэтому, при своей глубокой преданности идее верховенства права, он всё же пошел на запрещенную законом дуэль. Для Петра Аркадьевича девиз воспитанников российских кадетских корпусов: «Жизнь — Родине, сердце — даме, честь — никому!» — был жизненной позицией, которую он отстаивал не только как личность, но и как государственный деятель. В этом плане Столыпин, несомненно, принципиально отличался от западных государственных и политических деятелей, для подавляющего большинства которых абсолютно доминирующим (во всяком случае, с периода Нового времени) было понятие внеморальной рациональности.
Публично тяжело оскорбленный князь был вынужден принять вызов, и дуэль состоялась немедленно. Из-за отсутствия дуэльных пистолетов Столыпин и Шаховской стреляли из своих браунингов. Петр Аркадьевич был ранен в правую руку, а Шаховской в грудь навылет и спустя год умер от чахотки.
Некоторые современники считали, что и причиной будущей женитьбы на невесте покойного брата было гипертрофированное чувство долга, но большинство сходилось на том, что между ними вспыхнуло страстное чувство. Ранее такое же страстное чувство к Нейдгардт испытывал и Михаил, который, в частности, писал Петру: «Я не думаю о приданом Ольги. Видит Бог, я бы взял ее в жены и бесприданницей».
Впрочем, возможно следует говорить о сочетании двух факторов — долга и чувства. Уже умирающий Михаил перед смертью положил руку брата на руку своей невесты — как бы вверяя ее Петру, что, конечно, было крайне важно для Столыпина.