Ещё в 1759 году приятель Уатта Джон Робисон заинтересовал его вопросом использования пара как источника двигательной энергии. Паровая машина Ньюкомена существовала уже пятьдесят лет, находя применение большей частью для откачки воды из шахт, однако за всё это время она ни разу не была усовершенствована. Уатт начал исследования по применению пара с нуля, так как до этого ни разу не сталкивался с этим вопросом. Однако попытки создать рабочую модель аппарата ничем не закончились. Ему удалось соорудить лишь что-то вроде модели паровой машины Севери, используя котёл Папена. Однако модель обладала такими большими недостатками, что Уатт забросил разработки.
Зимой 1763 года к нему обратился профессор физики университета Глазго Джон Андерсон с просьбой отремонтировать действующий макет паровой машины Ньюкомена. Макет был оснащен 2-дюймовым цилиндром и имел рабочий ход поршня в 6 дюймов. Уатт провел ряд экспериментов, в частности, заменил металлический цилиндр на деревянный, смазанный льняным маслом и высушенный в печи, уменьшил количество поднимаемой за один цикл воды, и макет наконец заработал. При этом Уатт убедился в неэффективности машины и внёс в конструкцию многочисленные усовершенствования. Уатт показал, что почти три четверти энергии горячего пара тратятся неэффективно: при каждом цикле пар должен нагревать цилиндр, так как перед этим в цилиндр поступала холодная вода, чтобы сконденсировать часть пара для уменьшения давления. Таким образом, энергия пара тратилась на постоянный разогрев цилиндра, вместо того чтобы быть преобразованной в механическую энергию.
Уатт провел ряд опытов над кипением воды, изучал упругость водяных паров при различных температурах. Теоретические и опытные изыскания привели его к пониманию важности скрытой теплоты. Опытным путём он установил, что вода, превращённая в пар, может нагреть до кипения в шесть раз большее количество воды. Уатт сделал вывод: «.Для того чтобы сделать совершенную паровую машину, необходимо, чтобы цилиндр был всегда так же горяч, как и входящий в него пар; но, с другой стороны, сгущение пара для образования пустоты должно происходить при температуре не выше 30 градусов Реомюра (37,5 °C)». Уатту остался шаг до того, чтобы отделить «сгущение пара» от цилиндра и осуществлять его в отдельном сосуде. Однако на этот шаг у него ушло очень много времени, ничего не придумывалось до 1765 года.
Первым значительным усовершенствованием, которое Уатт запатентовал в 1769 году, была изолированная камера для конденсации. В этот же год ему удалось построить действующую модель, работающую по этому принципу. Однако создать полноразмерную машину не получалось. Не хватало денег на материалы. Некоторую помощь ему оказал Джозеф Блэк, а основная поддержка пришла от Джона Роубака, основателя легендарной Carron Company. Во время работы над усовершенствованием машины Уатт жил в поместье Роубака. Основная сложность заключалась в том, чтобы заставить работать поршень и цилиндр. Металлопроизводство того времени было не способно обеспечить нужную точность изготовления.
Роубак в итоге обанкротился, и новым спонсором Уатта стал Мэттью Болтон, владелец литейного завода в Бирмингеме, где работали высокопрофессиональные литейщики. Проблема изготовления цилиндра большого диаметра и соответствующего поршня с необходимой точностью была решена Джоном Уилкинсоном, который разработал соответствующую технологию на заводе, выпускающем пушечные ядра в Рексеме в Северном Уэльсе.
Попытки Уатта поставить свои изобретения на коммерческую основу не имели успеха, пока он не взял в компаньоны Мэттью Болтона. Совместная компания «Болтон и Уатт» успешно действовала двадцать пять лет, в результате чего Уатт стал весьма состоятельным человеком.
Уатт в 1782 году изобрёл машину двойного действия. Машина Ньюкомена была прежде всего машиной водоподъемной и применялась главным образом в горном деле. Между тем и для других отраслей быстроразвивающейся промышленности требовался механический двигатель. Уатт и поставил перед собой задачу сделать паровую машину универсальным двигателем. Для этого было необходимо преобразовать качательное движение балансира в непрерывное вращение вала. Уатт соорудил модель, работающую с помощью нового механизма — кривошипа.
Но он не подал вовремя заявку на патент, и в следующем, 1780 году, патент на применение кривошипа к «огневой машине» взял инженер Пикар. Уатту пришлось придумывать новые способы решений той же задачи, чтобы обойти патент Пикара. В 1781 году Уатт поручил Болтону взять патент на целых пять «новых методов». Все они были испытаны Болтоном. Первые четыре оказались мало пригодными. Практическое значение получил только пятый. Он пришел Уатту в голову уже после того, как первые четыре были посланы Болтону для взятия патента. Этот «пятый метод» носит название планетного движения.
Вместе с более мелкими усовершенствованиями это изобретение позволило увеличить производительность паровой машины в четыре и более раз. Кроме того, сама машина стала легко управляемой.