В 1637 году вышел в свет главный философско-математический труд Декарта «Рассуждение о методе, позволяющем направлять свой разум и отыскивать истину в науках». В приложении «Геометрия» к этой книге излагались аналитическая геометрия, многочисленные результаты в алгебре и геометрии, в другом приложении — открытия в оптике и многое другое.
Именно он привел математическую символику к тому виду, как она выглядит и сейчас. Коэффициенты он обозначал a, b, c…, а неизвестные — x, y, z. Натуральный показатель степени принял современный вид. Появилась черта над подкоренным выражением. Уравнения приводятся к канонической форме (в правой части — ноль).
Создание аналитической геометрии позволило перевести исследование геометрических свойств кривых и тел на алгебраический язык, то есть анализировать уравнение кривой в некоторой системе координат.
В приложении «Геометрия» были даны методы решения алгебраических уравнений (в том числе геометрические и механические), классификация алгебраических кривых. Новый способ задания кривой — с помощью уравнения — был решающим шагом к понятию функции.
Декарт исследовал алгебраические функции (многочлены), а также ряд «механических» (спирали, циклоида).
Он сформулировал (хотя и не доказал) основную теорему алгебры: общее число вещественных и комплексных корней многочлена равно его степени. Отрицательные корни Декарт по традиции именовал ложными, однако объединял их с положительными термином действительные числа, отделяя от мнимых (комплексных). Этот термин вошёл в математику.
«Геометрия» сразу сделала Декарта признанным авторитетом в математике и оптике. Издана она была на французском, а не на латинском языке, однако тут же была переведена на латынь (язык международного общения ученых того времени) и неоднократно издавалось отдельно, разрастаясь от комментариев и став настольной книгой европейских учёных. Труды математиков второй половины XVII века отражают сильнейшее влияние Декарта.
Физические исследования Декарта относятся главным образом к механике, оптике и общему строению Вселенной. Физика Декарта была материалистической: Вселенная целиком заполнена движущейся материей и в своих проявлениях самодостаточна. Неделимых атомов и пустоты Декарт не признавал и в своих трудах резко критиковал атомистов, как античных, так и современных ему. Кроме обычной материи, Декарт выделил обширный класс невидимых тонких материй, с помощью которых пытался объяснить действие теплоты, тяготения, электричества и магнетизма.
Основными видами движения Декарт считал движение по инерции, которое сформулировал (1644) так же, как позднее Ньютон, и материальные вихри, возникающие при взаимодействии одной материи с другой. Декарт ввёл понятие количества движения, сформулировал (в нестрогой формулировке) закон сохранения движения (количества движения).
В 1637 году вышла в свет «Диоптрика», где содержались законы распространения света, отражения и преломления, идея эфира как переносчика света, объяснение радуги. Декарт первым математически вывел закон преломления света (независимо от В. Снеллиуса) на границе двух различных сред. Точная формулировка этого закона позволила усовершенствовать оптические приборы, которые тогда стали играть огромную роль в астрономии и навигации (а вскоре и в микроскопии).
Исследовал законы удара. Высказал предположение, что атмосферное давление с увеличением высоты уменьшается. Теплоту и теплопередачу Декарт совершенно правильно рассматривал как происходящую от движения мелких частиц вещества.
Крупнейшим открытием Декарта, ставшим фундаментальным для последующей психологии, можно считать понятие о рефлексе и принцип рефлекторной деятельности. Схема рефлекса сводилась к следующему. Декарт представил модель организма как работающий механизм. При таком понимании живое тело не требует более вмешательства души; функции «машины тела», к которым относятся «восприятие, запечатление идей, удержание идей в памяти, внутренние стремления… совершаются в этой машине как движения часов».
Наряду с учениями о механизмах тела разрабатывалась проблема аффектов (страстей) как телесных состояний, являющихся регуляторами психической жизни.
В 1649 году Декарт, измученный многолетней травлей за вольнодумство, поддался уговорам шведской королевы Кристины (с которой много лет активно переписывался) и переехал в Стокгольм. Почти сразу после переезда он серьёзно простудился и вскоре умер. Существует также версия о его отравлении, поскольку симптомы болезни Декарта были сходны с симптомами, возникающими при остром отравлении мышьяком. Поводом для отравления, по этой версии, послужило опасение католических агентов, что вольнодумство Декарта может помешать их усилиям по обращению королевы Кристины в католичество (это обращение действительно произошло в 1654 году).