Гааз изучал московские больницы и дома призрения, помогал глазным больным в Екатерининском и Преображенском богаделенных домах. За лечение глаз у старых людей в Екатерининской богадельне Федор Петрович получил орден святого Владимира 4-й степени. С этим орденом-крестом Гааз никогда не расставался, гордился им.
В 1807 году Гааза по желанию императрицы Марии Федоровны (жены Павла I) назначили главным доктором Павловской больницы в Москве. Он совершил две поездки на Кавказ (в 1809 и 1810 годах), где исследовал минеральные воды с целью пособия больным. С 1814 года Гааз находился в действующей армии, был в русских войсках при занятии ими Парижа.
По окончании Отечественной войны доктор вернулся в Москву. Справочники о местожительстве горожан давали информацию, что тогда он проживал в Гусятниковом переулке у Мясницкой, в доме Башилова.
Когда в России открылось Попечительное о тюрьмах общество, доктору Гаазу было уже 40 лет.
Случилось так, что к нему обратился генерал-губернатор Москвы князь Д. В. Голицын. Князь набирал первый состав московского Комитета о тюрьмах. Гааз согласился стать главным врачом московских тюрем и секретарем этого комитета. Он считал, что болезнь, несчастье и преступление имеют тесную связь.
Во время жизни Гааза Комитет о тюрьмах провел в общей сложности 293 заседания. В течение 25 лет Федор Петрович пропустил лишь одно. Он всегда активно работал в этом ведомстве.
Гаазу пришлось лечить заключенных в тюрьмах. Он сочувствовал их тяжелой судьбе, отдавал им часть своих денег. Гааз положил в основу своей деятельности правило: «Необходимо справедливое, без напрасной жестокости, отношение к виновному, деятельное сострадание к несчастному и призрение больного».
Став подвижником, энтузиастом добра, Гааз просит за обездоленных. Если ему отказывали, он с большим упорством вновь доказывал, если надо, требовал облегчения участи этих людей. Имея высокий авторитет, Гааз добивался помощи в своих хлопотах от митрополита Филарета. И митрополит, со своей стороны, тоже шел за них просить.
Гааз писал императору Николаю страстные письма о помиловании своих подопечных.
Гааз сам жил по закону добра и призывал к тому и властных особ. «Вас не будут приглашать в комитет!» — кричали раздраженные его вечными просьбами. «Я сам приду». — «Перед вами запрут двери!» — «Я влезу в окно».
Для поддержки Гааз писал письма прусскому королю, брату императрицы Александры Феодоровны.
Однажды, когда Николай I посетил Тюремный замок, Федор Петрович, прося за одного старика, встал на колени. Государь велел доктору подняться. «Не встану, пока вы не помилуете его!» И стоял, пока император не произнес: «На твоей совести, Федор Петрович».
Характер этого необычного доктора долго терпели. Гааз же, обладая почти сверхъестественной нравственной силой, пугавшей находившихся при власти, заставлял их забывать о всей строгости законов и поступать по-человечески милосердно.
Посетивший в 1830 году Гааза на его квартире у Мясницкой московский гражданский губернатор И. Г. Сенявин застал того непрерывно ходившим по комнате взад и вперед, с металлическим лязгом и звоном. Доктор в утомлении что-то подсчитывал. Оказалось, что таким образом проводилось испытание кандалов на расстояние, равное первому этапному переходу заключенных по Владимирке до Богородска (ныне — Ногинск).
Бывали и такие случаи, когда доктор Гааз шел этапы вместе с арестантами, в ножных кандалах, чтобы испытать положение заключенного. Благодаря хлопотам Федора Петровича в центре России был отменен страшный железный прут. Именно к этому пруту при отправлении на каторгу приковывались арестанты. По просьбе Гааза кандалы стали надеваться облегченными по весу (их называли «гаазовскими»).
В 1844 году в Москве была открыта Полицейская больница для бесприютных людей. Гааз стал в ней главным врачом, занимая казенную квартиру в три комнаты и получая в год 285 рублей 72 копейки жалованья.
В больницу для оказания бесплатной медицинской помощи направлялись поднимаемые на улицах города в бесчувственном состоянии, получившие увечья и травмы, отравленные, больные, «не имеющие узаконенных видов на жительство». При Гаазе в Полицейской больнице перебывало до 30 тыс. бесприютных жителей города. По имени главного врача москвичи переименовали ее в Гаазовскую (позднее она называлась Александровской, в честь Александра III).
Во время эпидемических заболеваний в Москве Федора Петровича приглашали как хорошего специалиста к больным, а в 1830-х годах он вместе с другом профессором Полем устроил временную больницу для тифозных в здании Покровских казарм. Так же было и в холерную эпидемию 1848 года.
В первые годы работы Гааз быстро стал одним из богатейших людей в Москве. Он имел своих лошадей, кареты, открыл собственную суконную фабрику. Но через некоторое время на аукционе он продал с молотка фабрику, другую недвижимость. Он ходил в старом обветшавшем сюртуке. К концу жизни «святой доктор» стал совершенно нищим, так как имел привычку раздавать все нажитое добро нуждающимся.