В 1898-1900 годах Цеппелин строит свою первую машину LZ-1. Она неслыханно грандиозна: длина дирижабля 128 метров, диаметр почти 12 метров. Собранный из алюминиевых стержней корпус заключен в алюминиевую обшивку. Внутри корпуса – 17 баллонов для газа, сделанных из специальной хлопчатобумажной ткани. Цеппелин установил на дирижабль два бензиновых двигателя Даймлера по 15 лошадиных сил. Каждый двигатель весил 450 кг. Движителями этого гиганта были многолопастные пропеллеры диаметром более метра. Вес его превышал 11 тонн. Такая машина и сегодня могла бы поразить воображение человека, оказавшегося рядом с ней.
Дирижабль построили на берегу Боденского озера, в местечке Фридрихсхафен. Здесь же 2 июля 1900 года состоялся первый его полет, а за ним последовали и первые поломки. Два с половиной месяца конструктор устранял неисправности, выявившиеся за двадцать минут полета, и только в октябре, точнее 17 и 21 октября, он смог еще дважды поднять свою машину в воздух. Эти октябрьские полеты принесли ему удовлетворение: дирижабль устойчиво летал и хорошо слушался рулей. Однако в полете 21 октября случилось непредвиденное: корпус машины разломился пополам. Никто, к счастью, не погиб и не пострадал, но машину пришлось разобрать.
Ощущая пробелы в своих инженерных знаниях, конструктор просит помощи с трибуны Съезда немецких инженеров, который состоялся как раз в это время в Киле. Но никто из собравшихся не откликнулся на пламенную речь оратора. Расстроенный граф вернулся во Фридрихсхафен. В разговорах и в прессе все чаще мелькает: «игрушка Вильгельма», «этот урод никогда не достигнет облаков». Другой бы сдался, но не таков был нрав отставного генерала. В 1903 году он составляет специальное обращение к соотечественникам, в котором подробно излагает свои планы и просит финансовой помощи. Немцы дружно отозвались на его просьбу, и вскоре граф располагал 16 тысячами марок. Тут же началась постройка второй модели дирижабля. LZ-2 представлял собой почти копию первой модели. Он был лишь немного короче, но вместо 15-сильных Цеппелин поставил на новую модель 85-сильные двигатели.
Судьба второй машины оказалась еще более печальной, чем первой. 30 ноября 1905 года при попытке выполнить первый полет налетевший внезапно сильный порыв ветра основательно «помял» дирижабль. Пришлось полтора месяца ремонтировать машину. 17 января 1906 года корабль все же ушел в воздух, но летел очень плохо: был неустойчив, нехотя подчинялся рулям. Граф, лично управлявший машиной, не смог даже вернуться к месту старта и вынужден был опуститься на землю в незнакомом месте, чтобы переждать порывы сильного ветра. Ночью разразилась буря, и LZ-2 был практически уничтожен.
На постройку третьей модели деньги собрали уже только друзья и почитатели таланта конструктора. Упорный граф сделал третий дирижабль всего за несколько месяцев. Эта машина была опять длиной в 128 метров, но отличалась от своих предшественников целым, рядом нововведений, особенно в части органов управления. LZ-3 стал первой удачей Цеппелина. Он начал полеты 9 октября 1906 года. Машина была способна поднимать десяток людей и более двух с половиной тонн груза. Уже на следующий после испытательного полета день, 10 октября, дирижабль, взяв на борт 11 человек, за 2 часа 17 минут пролетел 110 километров. Это было неслыханным достижением. Дрезденская высшая техническая школа тут же присвоила конструктору ученую степень доктора инженерных наук. Рейхстаг выделяет на продолжение его работ полмиллиона марок. За государственный счет строят специальный плавающий эллинг на Боденском озере, который будет подарен графу от имени нации в сентябре 1907 года.
Цеппелин выполняет один за другим несколько удачных полетов. Осенью 1907 года он летает без посадки 8 часов и получает от правительства Германии заманчивое предложение: если дирижабль сможет пролетать без приземления сутки на высоте более 1200 метров, то правительство купит эту машину для нужд армии.
Поставленное условие граф вполне мог выполнить на третьей модели, но он решил построить новую машину, введя в ее конструкцию еще ряд усовершенствований, идею которых ему подсказали полеты на LZ-3. На четвертую модель Цеппелин поставил еще более сильные двигатели – по 110 лошадиных сил каждый. Длина машины была увеличена до 136 метров, а газовая вместимость доведена до 15 тысяч кубических метров.