Первым трамваем вообще и непосредственным предшественником электрического трамвая в частности была конка: городская железная дорога, вагоны которой приводились в движение тягловыми животными — чаще всего одной или двумя лошадьми (реже использовались мулы и зебры). Первые в мире городские конки появились в США: в Балтиморе в 1828 году, в Нью-Йорке в 1832 году и в Новом Орлеане в 1835 году. Однако по-настоящему успешными конные железные дороги стали только после того, как в 1852 году Альфонс Луба изобрёл рельсы с жёлобом для реборды колеса, которые утапливались в полотно дороги. До этого использовались рельсы, выступающие над уровнем улицы, что очень мешало прочему уличному движению. Изобретение Альфонса Луба оказалось незаменимым на городских улицах и фактически используется до сих пор.
Кроме конок и появившихся позднее электрических трамваев, существовали и другие виды трамвая. Иногда использовались небольшие паровозы — паровозы трамвайного типа, — однако их распространению в городах мешали дым и шум от них.
В США были популярны трамваи на канатной тяге. Первая такая дорога была пущена в эксплуатацию в Сан-Франциско в 1873 году.
В Париже, где в конце XIX века была создана городская пневматическая сеть (сжатый воздух с городской компрессорной станции по трубам поставлялся потребителям, прежде всего фабрикам), до начала XX века существовал пневматический трамвай. Вагон приводился в движение пневматическим двигателем, а запасённого в специальном баллоне сжатого воздуха хватало для поездки по всему маршруту. На конечной остановке производилась заправка баллонов сжатым воздухом. Аналогичная система первоначально применялась и в швейцарском Берне.
В Киеве, Мурманске и в некоторых других городах Российской империи работали бензомоторные трамваи. Очень распространены они были в Бельгии, где существовала сеть так называемых «местных железных дорог».
Русские учёные и изобретатели Б. С. Якоби, В. Н. Чикалев, Д. А. Лачинов и П. Н. Яблочков ещё в 1838 году разработали основные теоретические вопросы, связанные с деятельностью электрического транспорта. А Фёдор Аполлонович Пироцкий в 1876 году на участке железной дороги между Белоостровом и Сестрорецком испытывал принцип передачи электроэнергии по рельсам. В 1880 году были проведены опыты, необходимые для начала широкого применения электродвижения в городском транспорте. 22 августа (3 сентября) 1880 года Пироцкий сумел сдвинуть на электрической тяге настоящий вагон конки с империалом. Питание обеспечивала расположенная рядом миниатюрная электростанция.
Первый постоянный коммерческий маршрут электрического трамвая открыла фирма Вернера фон Сименса под Берлином, используя первоначально конструкцию Пироцкого.
Машина, созданная германским инженером Эрнстом Вернером фон Сименсом, была использована в 1879 году на Германской промышленной выставке в Берлине. Локомотив использовался для катания посетителей по территории выставки. Скорость ведомого локомотивом поезда составляла 6,5 км/ч.
После успеха на выставке Сименс приступил к строительству электрической трамвайной линии в 2,5 км в берлинском пригороде Лихтерфельде. Моторный вагон получал ток напряжением в 100 вольт через оба рельса. В 1881 году первый трамвай, построенный компанией «Сименс унд Хальске», использовавший данные Пироцкого и некоторые его решения, прошёл по железной дороге между Берлином и Лихтерфельдом, тем самым открыв эпоху трамвайного движения. В том же году Сименс построил трамвайную линию такого же типа в Париже.
В 1885 году трамвай появился в Великобритании в английском городе-курорте Блэкпуле.
Появление первых трамваев в США произошло независимо от Европы. Изобретатель Лео Дафт начал эксперименты с электрической тягой в 1883 году, построив несколько небольших электровозов. Его работы заинтересовали директора Балтиморской конки, который решил перевести трёхмильную линию на электротягу. Дафт занялся электрификацией линии и созданием электрических трамваев. 10 августа 1885 года на этой линии открылось движение электрического трамвая — первого на американском континенте. Однако система оказалась неработоспособной: использование третьего рельса приводило к коротким замыканиям во время дождя, к тому же напряжение (120 вольт) убивало многих мелких животных (кошек, собак), да и для людей было небезопасно. Вскоре от использования на этой линии электричества отказались и вернулись к лошадям.
К 1886 году Дафт усовершенствовал систему — вместо третьего рельса стала применяться двухпроводная контактная сеть. Её можно считать прообразом будущих троллейбусов. Трамваи системы Дафта использовались в Питтсбурге, Нью-Йорке и Цинциннати.