Под руководством профессора М. Ф. Бартельса, который в свое время занимался с самим Гауссом, Лобачевский изучил гауссовскую «Теорию чисел» и «Небесную механику» Лапласа. Затем написал два собственных исследования: «Теория эллиптического движения небесных тел» и «О разрешимости алгебраического уравнения xn − 1 = 0». В 1814 г. он был произведен в доценты. Со следующего года Лобачевский начал преподавать арифметику и геометрию, а в 1820-м стал деканом физико-математического факультета.
И тут в Казанский университет прислали ревизора. Тот отрапортовал об «отсутствии благочестия» в вузе и начал устанавливать новые порядки. Первым делом он открыл кафедру богословия и уволил большинство профессоров. Для Лобачевского церковно-полицейская система стала тяжким испытанием, но он стойко держался: преподавал математику на всех курсах вместо уволившегося Бартельса; замещал астронома Симонова, который отправился в кругосветное плавание; читал физику, астрономию и геодезию; заведовал физическим кабинетом и обсерваторией. А кроме того трудился над упорядочиванием библиотеки и расширением ее физико-математической части; занимался строительством главного университетского корпуса; наконец, в 1823–1825 гг. написал два учебника для гимназий: «Геометрию» и «Алгебру».
Еще в студенческие годы Лобачевский пытался доказать пятый постулат евклидовой геометрии — т. е. то, что две прямые, пересеченные третьей, образующей с ними по одну сторону два угла, которые не превышают в сумме 180°, обязательно пересекутся между собой. Попытка не удалась, и это не удивительно: над данным постулатом ученые бились сотни лет — и не нашли ему математических доказательств. Поэтому в «Геометрии» Лобачевский решил опровергнуть утверждение, что возмутило остальных ученых.
В 1826 г. попечители университета отстранили ревизора «за злоупотребления властью», и в 1827-м новым ректором был избран Лобачевский. Получив карт-бланш, он добился повышения уровня научно-учебной работы на всех факультетах. Организовал строительство библиотеки, астрономической и магнитной обсерватории, анатомического театра, физического кабинета и химической лаборатории, основал журнал «Ученые записки Казанского университета». В 1830-м году, изолировав и тщательно дезинфицировав университетскую территорию, защитил сотрудников и студентов от заражения холерой. Во время большого пожара в Казани (1842 г.) организовал спасение астрономических инструментов и эвакуацию книг из охваченной пламенем библиотеки. Более того, уберег от распространения огня почти все университетские здания.
По воспоминаниям современников, профессора́ поначалу жаловались на строгие правила, введенные новым ректором. Но вскоре поняли: Лобачевский — отнюдь не самодур. Заметив, что члены совета начинают спорить, он прерывал заседание, оставлял вопрос открытым — до следующего раза, а затем приглашал спорщиков к себе домой. И в мирной беседе за чашкой чая приводил их к соглашению.
В то же время ученый успевал читать студентам курсы алгебры, физики, математического анализа, теории вероятностей и неевклидовой геометрии. Новаторский подход, стремление опровергнуть вроде бы бесспорные истины позволили ему сделать немало открытий в разных областях математики. К примеру, он уточнил понятие функции, приписанное впоследствии немецкому ученому Й. Дирихле. Разграничил непрерывность и дифференцируемость функции (дифференцируемость функции в некоторой точке — т. е. возможность увидеть в данной точке динамику графика — означает ее гладкость в окрестности этой точки и, следовательно, непрерывность; однако обратное утверждение несправедливо: непрерывность функции в некоторой точке не является признаком ее гладкости и дифференцируемости). Исследовал тригонометрические ряды (ряды синусов и косинусов множества дуг, соединяющих две узловые точки). Разработал метод численного решения уравнений, несправедливо получивший название «метод Греффе».
В 1829 г. Лобачевский опубликовал труд «О началах геометрии». Отталкиваясь от пятого постулата Евклида, предполагающего существование всего двух непересекающихся (т. е. параллельных) прямых, ученый предложил обратную аксиому: «Через точку, не лежащую на данной прямой, проходит более чем одна прямая, не пересекающая данную». Как это возможно? Дело в том, что Евклид формулировал постулаты только для плоской поверхности. Если нарисовать на бумаге прямую А и точку, то через эту точку получится провести всего одну прямую В, не пересекающую А. Зато на выгнутой поверхности таких прямых будет гораздо больше. Пространство может иметь формы седла, воронки и пр. — именно таким поверхностям, «с отрицательной кривизной», Лобачевский уделял больше всего внимания.