Первый полет на дирижабле собственной конструкции Цеппелин совершил в возрасте 62 лет. Тысячи зрителей, молча ожидавшие на берегах озера появления летающей машины «сумасшедшего» графа, были поражены, увидев напоминающий гигантскую колбасу летательный аппарат, который вытягивал из эллинга небольшой пароход. Когда дирижабль «выплыл» на середину озера, канаты убрали и пассажиры заняли свои места. В носовой гондоле сидел сам Цеппелин с пилотом Бассусом и инженером Дюрром, в хвостовой — механик Гросс и писатель Вольф. К сожалению, неприятности начались еще при взлете. Даже при небольших углах отклонения рулей и как результат возникающих при этом в стрингерах каркаса продольных сжимающих усилий, были обнаружены значительные прогибы ферм (до 250 мм). Это объяснялось тем, что плоские фермы каркаса, вследствие своей незначительной ширины, не оказывали достаточного сопротивления возникающим нагрузкам. Соединительный мостик из-за недостатка прочности прогнулся, сдвинув с места гондолы и рамы с пропеллерами. Смещение направления потоков воздуха от винтов привело к тому, что скорость цеппелина составила всего 15 км/ч. Дирижабль находился в воздухе 20 минут. Неполадки в управлении рулями и низкая скорость повлекли за собою еще ряд легких повреждений при посадке. Несколько месяцев LZ-1 был в ремонте, по окончании которого 17 октября 1900 года совершил второй полет. 21 октября дирижабль наконец показал свои возможности, достигнув высоты 400 м и скорости 28,1 км/ч. Общая продолжительность трех полетов составила 2 часа и 1 минуту.
Ожидаемой помощи со стороны государства и богатых предпринимателей не поступило. Военные заняли выжидательную позицию, приглядываясь к экспериментам графа, — их можно было понять, так как двери в министерские кабинеты уже давно трещали под напором майора Гросса и майора фон Парсеваля, которые энергично проталкивали воздушные корабли собственных конструкций.
Затраты на строительство и содержание LZ-1 оказались столь велики, что в начале 1901 года привели компанию к финансовому краху. Цеппелин остался без средств для строительства следующего аппарата. Он выступил с докладом о своем дирижабле на съезде германских инженеров в Киле, ожидая их поддержки и содействия, но ни того, ни другого не получил. Тогда граф обратился с личными письмами к богатым представителям немецких деловых кругов. Однако и они не отозвались на отчаянный призыв Цеппелина. И как венец всех бед — налетевший ураган разрушил и потопил плавучий эллинг. После этого акционерное общество распалось и для Цеппелина наступили тяжелые годы.
Лишь после того как в 1905 году в Вюртемберге при содействии короля прошла благотворительная лотерея в пользу воздухоплавания, был продан на слом каркас LZ-1 и часть ангара, а сам Цеппелин расстался с частью своего имущества, ему удалось собрать 400 000 марок, необходимых для постройки LZ-2. Это была усовершенствованная «единица» с развитым килем и двумя моторами по 85 л. с., которые приводили в движение 4 трехлопастных воздушных винта. Площадь рулей была значительно больше — под носовой и кормовой частью корабля размещались 3 вертикальные плоскости, служившие рулями направления. Между ними и гондолами находились 2 руля высоты, каждый из которых представлял 4 расположенных друг над другом плоскости. Такое устройство оперения дало возможность получить на втором воздушном корабле гораздо большую устойчивость, чем на первом. Отсеков было 16. Несколько видоизменилась система тросовых расчалок шпангоутов. Вместо материала, использованного на LZ-1 и имевшего большую газопроницаемость, для газовых баллонов применили материал, состоявший из двух слоев хлопчатобумажной ткани, между которыми находился слой резины.
Однако неудачи продолжали преследовать графа. 30 ноября 1905 года при выводе из плавучего эллинга дирижабль упал носом в воду, затем его подхватило ветром и понесло по озеру, лодки и баркасы нагнали его почти у швейцарского берега. Корабль получил значительные повреждения. 17 января 1906 года отремонтированный дирижабль стартовал с Боденского озера в свой второй полет. Вследствие того что перед взлетом дирижабль был недостаточно хорошо уравновешен, он имел большую сплавную силу, обусловившую быстрый подъем до высоты около 450 м. Сильный ветер начал сносить дирижабль в сторону суши. Затем отказал передний руль направления, а за ним — один из двигателей. После этого Цеппелин решил спуститься. Посадка на суше прошла благополучно. Однако ввести LZ-2 в эллинг не удалось, и ночью он был разрушен напором усилившегося ветра.
Биографы графа Цеппелина сходятся на том, что в течение последующих нескольких недель граф испытал наибольшее унижение и находился в самой глубокой депрессии за всю свою жизнь. Однако он нашел в себе силы, снова вступил в «бой» и 9 октября 1906 года смог взлететь на своем третьем цеппелине LZ-3, который был построен под залог фамильных ценностей.