Паровой цилиндр помещался у Ньюкомена над паровым котлом. Поршневой шток (стержень, соединенный с поршнем) был соединен гибкой связью с концом балансира. С другим концом балансира был соединен шток насоса. Поршень поднимался в верхнее положение под действием противовеса, прикрепленного к противоположному концу балансира. Кроме того, движению поршня вверх помогал пар, запускаемый в это время в цилиндр. Когда поршень находился в крайнем верхнем положении, закрывали кран, впускавший пар из котла в цилиндр, и вбрызгивали в цилиндр воду. Под действием этой воды пар в цилиндре быстро охлаждался, конденсировался, и давление в цилиндре падало. Вследствие создавшейся разницы давлений внутри цилиндра и вне его, силой атмосферного давления поршень двигался вниз, совершая при этом полезную работу — приводил в движение балансир, который двигал шток насоса. Таким образом, полезная работа выполнялась только при движении поршня вниз. Затем снова запускали пар в цилиндр. Поршень опять поднимался вверх, и весь цилиндр наполнялся паром. Когда снова вбрызгивали воду, пар снова конденсировался, после чего поршень совершал новое полезное движение вниз, и так далее. Фактически в машине Ньюкомена работу совершало атмосферное давление, а пар служил только для создания разряженного пространства.
В свете дальнейшего развития парового двигателя становится ясным основной недостаток машины Ньюкомена — рабочий цилиндр в ней являлся в то же время и конденсатором. Из-за этого приходилось поочередно то охлаждать, то нагревать цилиндр, и расход топлива оказывался очень велик. Бывали случаи, когда при машине находилось 50 лошадей, едва успевавших подвозить необходимое топливо. Коэффициент полезного действия (КПД) этой машины едва ли превышал 1%. Другими словами, 99% всей теплотворной энергии терялось бесплодно. Тем не менее эта машина получила в Англии распространение, особенно на шахтах, где уголь был дешевый. Последующие изобретатели внесли несколько усовершенствований в насос Ньюкомена. В частности, в 1718 году Бейтон придумал самодействующий распределительный механизм, который автоматически включал или отключал пар и впускал воду. Он же дополнил паровой котел предохранительным клапаном.
Но принципиальная схема машины Ньюкомена оставалась неизменна на протяжении 50 лет, пока ее усовершенствованием не занялся механик университета в Глазго Джемс Уатт. В 1763-1764 годах ему пришлось чинить принадлежавший университету образец машины Ньюкомена. Уатт изготовил небольшую ее модель и принялся изучать ее действие. При этом он мог использовать некоторые приборы, принадлежавшие университету, и пользовался советами профессоров. Все это позволило ему взглянуть на проблему шире, чем смотрели на нее многие механики до него, и он смог создать гораздо более совершенную паровую машину.
Работая с моделью, Уатт обнаружил, что при запускании пара в охлажденный цилиндр он в значительном количестве конденсировался на его стенках. Уатту сразу стало ясно, что для более экономичной работы двигателя целесообразнее держать цилиндр постоянно нагретым. Но как в этом случае конденсировать пар? Несколько недель он раздумывал, как разрешить эту задачу, и наконец сообразил, что охлаждение пара должно происходить в отдельном цилиндре, соединенном с главным короткой трубкой. Сам Уатт вспоминал, что однажды во время вечерней прогулки он проходил мимо прачечной и тут при виде облаков пара, вырывавшихся из окошка, он догадался, что пар, будучи телом упругим, должен устремляться в разряженное пространство. Как раз тогда ему пришла мысль, что машину Ньюкомена надо дополнить отдельным сосудом для конденсации пара. Простой насос, приводимый в движение самой машиной, мог удалять из конденсатора воздух и воду, так что при каждом ходе машины там бы могло создаваться разряженное пространство.
Вслед за тем Уатт внес еще несколько усовершенствований, в результате чего машина приняла следующий вид. К обеим сторонам цилиндра были подведены трубки: через нижнюю пар поступал внутрь из парового котла, через верхнюю отводился в конденсатор. Конденсатор представлял собой две жестяные трубки, стоявшие вертикально и сообщавшиеся между собой вверху короткой горизонтальной трубкой с отверстием, перекрывавшимся краном. Дно этих трубок было соединено с третьей вертикальной трубкой, которая служила воздушным отводным насосом. Трубки, составлявшие холодильник и воздушный насос, были помещены в небольшой цилиндр с холодной водой. Паровая трубка была соединена с котлом, из которого пар выпускался в цилиндр. Когда пар заполнял цилиндр, паровой кран закрывали и поднимали поршень воздушного насоса конденсатора, вследствие чего в трубках конденсатора получалось сильно разряженное пространство. Пар устремлялся в трубки и конденсировался там, а поршень поднимался вверх, увлекая за собой груз (так измеряли полезную работу поршня). Затем выпускной кран закрывали.