По происхождению Гальба выходец из высокого аристократического рода, прославившегося во времена республики. В молодости пользовался благосклонностью Ливии, вдовы Августа. В завещании она оставила ему огромную сумму в пятьдесят миллионов сестерциев. Однако, поскольку сумма была написана не словами, а цифрами, император Тиберий принял ее за пятьсот тысяч сестерциев, хотя и эта сумма не должна была достаться наследнику, ибо Тиберий сразу же аннулировал завещание матери из нелюбви к ней. Впрочем, Гальба и без того не был бедным. Хотя следует отметить, что в целом Тиберий всегда относился к Гальбе благосклонно. Еще совсем молодому Гальбе он разрешил начать государственную службу ранее предусмотренного законом возраста. Став претором, Гальба сразу же отличился — организовал такие игрища для народа, о которых потом еще долго говорили, ведь на них народ впервые увидел слонов-канатоходцев.
Гальба быстро делал карьеру. Был наместником в Аквитании (современная Франция), а в 35 году стал консулом. В царствование Калигулы ему поручили наместничество Верхней Германии на Рейне. Во время проведения Калигулой инспекции римских войск в этой провинции Гальба вызвал одобрение императора отличной солдатской выправкой и редкой выносливостью: во время многочасовой муштры он ни разу не упускал из рук тяжелый щит, а потом много миль без отдыха бежал перед колесницей властителя.
Ценил Гальбу и император Клавдий — и как умелого администратора, и как опытного военачальника. В его правление Гальба был наместником провинции Африка (современный Тунис), где покорил кочевников пустыни и усмирил оседлое население. В награду ему был устроен триумф — пышный, торжественный въезд с отборными легионами в стольный город империи Рим, а также его удостоили высоких должностей при главном храме Юпитера. И все эти почетные должности ему пришлось бросить и удалиться от общественной жизни, когда Клавдий взял себе в жены Агриппину. Были у Гальбы причины опасаться этой женщины. Много лет назад после смерти своего первого мужа, Домиция, Агриппина именно Гальбу пожелала сделать своим вторым мужем, хотя он был давно женат и имел двух сыновей. Решительный отпор свекрови Гальбы разрушил планы честолюбивой матроны, хотя, вполне возможно, сам Гальба уступил бы Агриппине, как любой мужчина пасует перед энергичной женщиной, к тому же благодаря ей он сблизился бы с императорским семейством. Так что теперь у Гальбы были все шансы бояться мести этой могущественной женщины. Вот он и удалился в свои отдаленные деревенские поместья, где в одиночестве коротал оставшиеся ему дни жизни, ведь не было уже на свете ни его жены, ни детей, а в новый брак он не вступил.
Когда к власти пришел Нерон, Гальба стал опасаться его советника Сенеку, который ненавидел Клавдия, столь благосклонного к Гальбе. Стареющий сенатор жил в постоянном страхе, каждую минуту ожидая изгнания, так что теперь, куда бы он ни направлялся, за ним всегда следовала повозка, наполненная деньгами.
Опасения оказались напрасными. Напротив, ему оказали высокую честь и в 60 году назначили наместником Тарраконской (восточной) Испании. Управлял он ею 8 лет, как всегда умело, но поначалу был слишком строг. Так, Гальба велел отрубить руки банкиру, обманывающему своих клиентов, и распять на кресте опекуна, отравившего сироту, чтобы овладеть его имуществом. Извиваясь на кресте, несчастный вопил, что, будучи свободным гражданином, он имеет право апеллировать к императору. И тогда наместник в виде особой милости велел его снять с этого креста и распять на другом — более представительном и побеленном. Однако с течением лет суровость и вообще активность Гальбы ослабели. Наблюдая за тем, что происходит в столице, как безумствует и бесчинствует Нерон, он пришел к выводу, что в столь шаткой и неясной политически ситуации лучше ничего не делать, цинично заявляя: «Ведь никого не наказали за то, чего тот не сделал». Прошло девятнадцать веков, и крылатое выражение Гальбы — «За бездействие не наказывают!» — в наши дни в далекой северной стране сделало «потрясающую карьеру», хотя там вряд ли кому известно имя Гальбы.
И все-таки Гальбу заставили заняться делом, к тому же очень рискованным. В начале 68 года против Нерона выступил Юлий Виндекс, наместник Лугдунской Галлии (с центром в городе, где теперь находится Лион). Он и его сторонники поклялись в верности сенату и римскому народу. Их поддержали широкие слои еще не романизированного народа Галлии. Виндекс предложил Гальбе возглавить восставших, но тот колебался и медлил. Ему уже было больше семидесяти — не самый подходящий возраст для того, чтобы браться за столь большое и опасное дело. Возможно, Гальба, кроме всего прочего, не слишком доверял Виндексу, так как не был в курсе всех его целей и намерений.