У нас нет точных сведений о том, как Джей и Хелен, которая была младше его на два с половиной года, впервые встретились. Хотя они жили неподалеку друг от друга, кажется совершенно невозможным, чтобы очень застенчивый Гулд просто завязал разговор с молодой женщиной на улице, как утверждают некоторые биографы. Кроме того, этого просто не было сделано. Скорее всего, Джей имел дело с отцом Хелен, который, сочтя его перспективным молодым человеком, пригласил его домой на ужин. Несмотря на то что Джею не хватало лоска, он обладал качествами, способными заинтересовать и мистера Миллера, и его дочь. Среди них были скромность, честолюбие и ум. Кроме того, Джей был трезвым парнем, обладающим большой личной дисциплиной. Таким образом, он сам представлял собой товар, который, как, несомненно, знал Миллер, оставался в вечном дефиците среди потенциальных миллионеров с улицы.
Джей и Хелен не были похожи друг на друга. Каждый из них был невыразителен физически. Джей был невысоким и неказистым. Хелен, которую Джей вскоре стал называть Элли, была такой же маленькой, худенькой и довольно невзрачной, с выдающимся носом. Они были похожи и в том, что любили тихие удовольствия, предпочитая задушевные семейные встречи и интересные книги гала-концертам. Судя по немногочисленным письменным свидетельствам, Элли была классической «позолоченной птицей» Мюррей-Хилла, полностью довольной своей позолоченной клеткой: строго традиционная христианская леди, посвятившая себя всем надлежащим благотворительным организациям и придерживающаяся всех популярных фанатичных взглядов. Как и ее родители, она любила Иисуса Христа, Мюррей-Хилл и «Дочерей американской революции» — именно в таком порядке. Она так же, как и ее родители, с недоверием относилась к католикам и евреям и считала, что протестантская Америка не потерпит ни тех, ни других. Поэтому разумно предположить, что пуританское происхождение Джея и тот факт, что его прадед был героем битвы при Риджфилде, не работали против его дела, когда он сидел в гостиной Миллеров и искренне ухаживал за своей Элли на протяжении почти всего 1861 года.
Джей сделал предложение в начале 1862 года. Некоторые биографы, в том числе Эдвин Хойт в своей книге 1969 года «Гулды», утверждали, что отец Элли не одобрял эту пару и был вынужден сбежать. Однако существование напечатанного свадебного приглашения среди бумаг старшей дочери Джея и Элли, хранящихся в Нью-Йоркском историческом обществе, ставит под сомнение это утверждение. Согласно приглашению, Джей и Элли поженились в доме Миллеров днем 22 января 1863 года. Сестра Джея Бетти Пален, писавшая в 1897 году, вспоминала, что присутствовала на свадьбе вместе с мужем, Гилбертом, Абрамом Гулдом, Анной и Асаэлем Хоу. Только Сара и Джордж Нортроп, занятые уходом за непрезентабельным Джоном Берром Гулдом, остались в стороне.
После свадьбы Джей переехал из дома Эвереттов к Элли и ее родителям. Здесь они с женой проживут целых шесть лет, и здесь же появятся на свет их первые трое детей.
В течение почти года после свадьбы Джей продолжал изучать искусство Уолл-стрит, как его практикуют самые опытные спекулянты. Со временем он стал мастером полива акций, коротких продаж, пулов, медвежьих набегов, медвежьих ловушек (когда медведи, имеющие короткие позиции по акциям, вынуждены покрывать свои короткие позиции по постоянно растущим ценам) и других стандартных уловок Уолл-стрит, большинство из которых сегодня были бы недопустимы, но во времена Гоулда были обычной практикой. Он также стал маэстро маржи, одним из многих волшебников Уолл-стрит, способных создавать капитал из воздуха и получать контроль над компаниями, используя всего несколько долларов, отраженных в зале финансовых зеркал: веселых залах конвертируемых облигаций, доверенностей и заемных средств. В конце концов, мастерство Гулда в фискальных махинациях стало непревзойденным. Но в отличие от Дэниела Дрюса, Гулд рассматривал спекуляции на Уолл-стрит в основном как средство для достижения больших и более сложных целей. В долгосрочной перспективе он стремился получить контроль над компаниями, которыми мог бы управлять, улучшать и объединять. Поэтому было лишь вопросом времени, когда он обратит свое внимание на тот сектор рынка, который предлагал не только наибольший выбор и гибкость финансовых инструментов, но и наибольшие перспективы долгосрочного роста: железные дороги.