Успешный штурм кубического уравнения, предпринятый Кардано, был, по существу, геометрическим «дополнением до полного куба», аналогичный методу дополнения до полного квадрата. Однако описание метода было выдержано все еще в стиле ал-Хорезми, с длинными риторическими объяснениями и уверенностью, что кубические уравнения следует разбить на несколько групп, поскольку отрицательные коэффициенты все еще не считались допустимыми. Преобразовывая более сложные кубические уравнения в более простые разрешимые типы, Кардано смог вырваться на шаг вперед по сравнению с дель Ферро и Тартальей. Кардано также заметил, что иногда промежуточные шаги в решении требовали вычисления квадратного корня из отрицательного числа. Сталкиваясь с этими сложными числами, он выказал определенную интеллектуальную брезгливость. Считая подобные ответы бессмысленными, он все же не отвергал их полностью. В одном случае он зашел достаточно далеко и понял: при умножении того, что мы теперь называем комплексным числом, получается реальное число. Он описал условия, при которых кубическое уравнение имеет комплексные решения, но не стал исследовать эти новые типы числа. В 1572 году Рафаэль Бомбелли (ок. 1526–1572) издал трактат «Алгебра», в котором расширил область чисел, дополнив их квадратными и кубическими корнями, а также комплексными числами. Он также сделал решающий шаг в алгебраическом решении геометрических задач и наоборот, но, к сожалению это не было замечено современниками, поскольку значительная часть его работы была опущена и издана только в двадцатом веке.
В Европе развитие алгебры шло бок о бок с использованием новых индо-арабских цифр. В 1494 году монах Лука Пачоли издал свой труд «Сумма арифметики, геометрии, учения о пропорциях и отношениях», который считают первой книгой по алгебре. Трактат Пачоли все еще представляет собой смесь риторических и алгебраических объяснений (это называют синкопированием). Неизвестное в уравнении часто называлось на латыни «cosa» («вещь»), а затем — в онемеченном варианте — «coss». После появления книги «Die Coss», написанной знаменитым «счетным мастером» Адамом Ризе (1492–1559), в Германии в XVI веке стало быстро развиваться так называемое «коссическое искусство». В то время впервые появились многие символы, которые мы сегодня считаем алгебраическими. Знаки «+» и «-» пришли в математику из Германии, знак «=» — из Англии. В целом переход от риторической алгебры через различные виды синкоп к стандартизированной и однозначной символической алгебре занял несколько сотен лет. Серьезной проблемой была, например, роль степеней выше третьей. Поскольку алгебраические методы полагались на геометрические доказательства, а измерений свыше третьего не существовало, казалось неразумным приписывать какое-либо значение четвертой или более высоким степеням. Важность этой проблемы подчеркивали сами термины, которые использовали для обозначения таких степеней. Четвертая степень числа обычно упоминается как «квадрат квадрата». В середине XVI века Роберт Рекорд чувствовал необходимость чем-нибудь подкрепить свое стремление к использованию более высоких степеней. Он объяснял, что площадь квадрата, стороны которого также квадраты некоего числа, — это число, возведенное в четвертую степень, и, следовательно, называется «квадратом квадрата».
Отход от чисто геометрического подхода начался с публикации «Геометрии» Рене Декарта (1596–1650). Эта важная работа была всего лишь приложением к основополагающему труду Декарта «Рассуждение о методе» (1637) (полное название «Рассуждение о методе, позволяющем направлять свой разум и отыскивать истину в науках») и нередко выбрасывалась из последующих переизданий. Декарт писал «Рассуждение…», чтобы изложить философию науки, которая позволит получить знания о Вселенной вещества и движения. А правильное описание Вселенной на языке математики требовало, чтобы сам этот язык «базировался на надежном фундаменте». Несмотря на то что приложение называлось «Геометрия», по существу, оно знаменовало брачный союз алгебры и геометрии, появление дисциплины, которая теперь называется аналитической геометрией. В сущности, она доказывает эквивалентность геометрических построений и алгебраических преобразований. Кривые в ней описываются уравнениями. Декарт также перестал оценивать степени как числа, а не как геометрические объекты: х2 больше не обозначало площадь — оно стало числом, возведенным во вторую степень, его геометрическим эквивалентом была парабола, а не квадрат.