Вторая идея Голлерита была следствием первой — он создал первый в мире счетно-перфорационный комплекс, включавший в себя входной перфоратор (для пробивки отверстий) и табулятор с устройством для сортировки перфокарт. Перфорация осуществлялась вручную на пробойнике, состоявшем из чугунного корпуса с приемником для карты и собственно пробойника. Над приемником помещалась пластина с несколькими рядами отверстий; при нажиме рукояти пробойника над одним из них карта под пластинкой пробивалась нужным образом. Сложный пробойник пробивал на группе карт общие данные одним нажатием руки. Сортировочная машина представляла собой несколько ящиков с крышками. Карты продвигались вручную между набором пружинных штырей и резервуарами, наполненными ртутью. Когда штырь попадал в отверстие, он касался ртути и замыкал электрическую цепь. При этом приподнималась крышка определенного ящика, и оператор клал туда карту. Табулятор (или суммирующая машина) прощупывал отверстия на перфокартах, воспринимая их как соответствующие числа и подсчитывая их. Принцип его действия был аналогичен сортировочной машине и базировался на использовании электромеханического реле (в качестве них также применялись пружинные штыри и чашечки с ртутью). Когда стержни при движении перфокарт попадали через отверстия в чашечки с ртутью, электрическая цепь замыкалась, и электрический сигнал передавался на счетчик, добавлявший к имеющемуся в нем числу новую единицу. Каждый счетчик имел циферблат со стрелкой, которая перемещалась на единицу шкалы при обнаружении отверстия. Если в табуляторе было 80 счетчиков, он мог одновременно подсчитывать результаты по 8 вопросам (с десятью вариантами ответов на каждый из них). Для подсчета результатов по следующим 8 вопросам та же перфокарта вновь пропускалась через табулятор другим своим участком. За один прогон сортировалось до 1000 карточек в час.
Первый патент (на идею) Голлерит получил в 1884 году. В 1887 году его машина была испытана в Балтиморе при составлении таблиц смертности населения. В 1889 году состоялось решающее испытание системы — проводилась пробная перепись в четырех районах города Сан-Луи. Машина Голлерита намного опередила две конкурирующие с ней ручные системы (она работала в 10 раз быстрее). После этого правительство США заключило с Голлеритом договор о поставке оборудования к переписи 1890 года. Результаты этой переписи благодаря табулятору были обработаны всего за два года. Вследствие этого машина очень быстро получила международное признание и употреблялась во многих странах при обработке данных переписи населения.
В 1902 году Голлерит создал автоматический табулятор, в котором карты подавались не вручную, а автоматически, и модернизировал свою сортировочную машину. В 1908 году он создал принципиально новую модель суммирующей машины. Вместо чашек с ртутью здесь применялись контактные щетки, с помощью которых замыкались электрические цепи электромагнитов. Последние обеспечивали соединение и разъединение непрерывно вращающегося вала с цифровыми колесами счетчика сумматора. Цифровые колеса поворачивались через зубчатые зацепления от непрерывно вращающегося вала, который нес на себе скользящие кулачковые муфты, управляемые электромагнитами. Когда под контактной щеткой оказывалось отверстие, замыкалась электрическая цепь соответствующего электромагнита, и он включал муфту, которая подсоединяла цифровое колесо к вращающемуся валу, после чего содержимое счетчика в данном разряде увеличивалось на число, пропорциональное одному повороту колеса. Передача десятков осуществлялась примерно так же, как в разностной машине Бэббиджа.
Дело, начатое Голлеритом, имеет продолжение и в наше время. Еще в 1896 году он основал фирму «Табьюлейтинг Машин Компани», специализирующуюся на выпуске счетно-перфорационных машин и перфокарт. В 1911 году, после того как Голлерит оставил предпринимательскую деятельность, его фирма слилась с тремя другими и была преобразована в широко известную сейчас во всем мире корпорацию IBM — крупнейшего разработчика в области вычислительной техники.
В табуляторе Голлерита впервые были использованы электромеханические элементы. Дальнейшее развитие вычислительной техники было связано с широким и многогранным применением электричества. В 1938 году немецкий инженер Конрад Цузе создал первую в истории релейную электронно-вычислительную машину Z1 на телефонных реле (записывающее устройство в ней оставалось механическим). В 1939 году появилась более совершенная модель Z2, а в 1941 году Цузе собрал первую в мире действующую вычислительную машину с программным управлением, в которой использовалась двоичная система. Все эти машины погибли во время войны и поэтому не оказали большого влияния на дальнейшую историю вычислительной техники.