Основные работы Остроградского относятся к математическому анализу, теоретической механике, математической физике. Известен он многочисленными работами по теории чисел, алгебре, геометрии, теории вероятностей, баллистики. Им была решена важная задача о распространении волн на поверхности жидкости, заключенной в бассейне, имеющем форму круглого цилиндра. Оценивая работы Остроградского, известный механик и математик Н. Е. Жуковский писал, что «…они захватывают собою почти всю область, на разрешении которой сосредотачивались в то время мысли выдающихся европейских геометров. В тот период расцвета прикладных наук, когда прогресс математических знаний дал сразу возможность разрешить целый ряд существенных вопросов естествознания, мы часто встречаемся с однородными работами выдающихся мыслителей. Нам, русским, отрадно отметить теперь, что в это время деятельности Фурье, Коши, Пуассона, Якоби и Гаусса мы не остались в стороне, так как имели Остроградского».
В работах по теории распространения тепла в твердых телах и в жидкостях Остроградский получил дифференциальные уравнения распространения тепла и одновременно пришел к ряду важнейших результатов в области математического анализа: нашел формулу преобразования интеграла по объему в интеграл по поверхности (так называемая формула Остроградского-Гаусса). Он ввел понятие сопряженного дифференциального оператора, доказал ортогональность собственных функций данного оператора и сопряженного, установил принцип разложимости функций в ряд по собственным функциям и принцип локализации для тригонометрических рядов. Стоит отметить, что теория распространения тепла в жидкости впервые была построена именно Остроградским, так как предыдущие исследования французских математиков Ж. Фурье и С. Пуассона были основаны ими на ошибочных предпосылках. Занимался Остроградский также вопросами упругости, небесной механики, теории магнетизма.
Установленная Остроградским в 1828 году формула преобразования интеграла по объему в интеграл по поверхности была обобщена им в 1834 году на случай
В теоретической механике Остроградскому принадлежат фундаментальные результаты, связанные с развитием принципа возможных перемещений, вариационных принципов механики, а также с решением ряда частных задач.
В «Мемуаре об общей теории удара» (1854) Остроградский впервые дал общий метод определения скоростей точек какой угодно системы при ударе о неупругую связь, то есть построил общую теорию удара.
Общий вариационный принцип почти одновременно был высказан в 40-х годах XIX века для консервативных систем – известным английским математиком У. Гамильтоном, а для неконсервативных систем – Остроградским. В мемуарах «Об интегралах общих уравнений динамики» (1848) и «О дифференциальных уравнениях в проблеме изопериметров» (1850) Остроградский обобщил эти результаты на общую изопериметрическую задачу вариационного исчисления. Сколь существенны были полученные Остроградским результаты, можно судить по тому, что известный его мемуар о вычислении вариаций кратких интегралов, напечатанный в 1834 году в изданиях Российской академии наук, в 1861 году появился в полном переводе как приложение к книге английского математика и историка математики Тотгентера, посвященной истории развития вариационного исчисления.
Очень важными оказались работы Остроградского по баллистике.
В «Мемуаре об определенных квадратурах» (1839) он составил специальные таблицы для облегчения вычисления параметров полета артиллерийского снаряда. Огромный практический интерес представили работы Остроградского, посвященные выяснению влияния выстрела на лафет орудия. В постоянном интересе к подобным работам, несомненно, сказалась юношеская нереализованная мечта ученого стать военным.
Критерием ценности математических исследований для Остроградского всегда служила практика, возможность незамедлительно использовать полученные результаты в практической деятельности. В этом отношении очень характерны его исследования по теории вероятностей. Кстати, одно из них, являющееся началом статистических методов браковки, было вызвано к жизни прямой необходимостью облегчить работы по проверке товаров, поставляемых армии.