На формирование Черни оказали влияние крупные пианисты: как исполнителя — Иоганн Непомук Гуммель, как педагога — Муцио Клементи. В 1800 году в дом Черни приходит Бетховен, который сразу соглашается давать уроки фортепиано талантливому мальчику. С музыкой Бетховена связано и первое выступление Карла Черни перед венской публикой — он исполнил очень сложный и по музыке и по технике Пятый концерт своего учителя. Вообще, Карл Черни всю жизнь испытывал к Бетховену поистине сыновнюю любовь. В 1827 году, сразу после смерти Бетховена, австриец сочинил «Траурный марш» его памяти. 1852 году он создает литературный труд, посвященный жизни своего любимого педагога.
В 1822 году молодой музыкант выступает в роли наставника Ференца Листа. Карл вспоминал, что на первых порах ученик был совершенно неуправляемым: крутился на стуле, спорил, недостаточно внимательно слушал учителя. Однако именно Черни удалось разглядеть в юноше гения, который в будущем покорит весь мир. В 1837 году, во время поездки в Париж состоялась встреча Черни с Листом. Наставник не стеснялся критиковать игру своего уже знаменитого ученика, а тот относился к этой критике с большим вниманием.
Вообще, Карл Черни с годами зарабатывал все больший, непререкаемый авторитет как наставник пианистов. Он создал крупную фортепианную школу. Среди его учеников, кроме Листа, такие значительные имена, как Сигизмунд Тальберг, Теодор Дёлер, Теодор Лешетицкий. Последний в течение 23 лет был профессором Петербургской консерватории и воспитал немало выдающихся русских пианистов, среди которых Анна Есипова и Василий Сафонов.
Черни принадлежат многочисленные этюды и упражнения, из которых им составлены сборники, школы, включающие сочинения разной степени трудности, направленные на систематическое овладение различными приёмами фортепианной игры и способствующие беглости и укреплению пальцев. Его сборник «Большая фортепьянная школа» ор. 500 содержит ряд ценных методических указаний и развёрнутое дополнение — «Die Kunst des Vortrags der аlteren und neueren Klavierkompositionen» (Искусство исполнения старых и новых фортепианных сочинений»). В 1839–1842 годах мастер создает двухчастный труд под названием «Первая фортепианная школа». Это была главная фундаментальная работа автора, прославившая его на весь мир.
Практически, с этюдами и упражнениями Черни музыкант с детства проходит все этапы своего обучения и совершенствования. Их играют и те, кто находится лишь в начале пути, и взрослеют, и уже многого достигшие, и всемирно знаменитые музыканты.
Черни принадлежат редакции многих фортепианных произведений, в т. ч. «Хорошо темперированного клавира» И. С. Баха и сонат Доменико Скарлатти, а также фортепианные переложения опер, ораторий, симфоний и увертюр для 2-4-ручного и для 8-ручного — на двух фортепиано — исполнения. В 1851 году выходит в свет капитальный труд композитора — «Обзор всей истории музыки». Здесь Черни демонстрирует не только педагогический талант, но и дар кропотливого исследователя искусства.
К сожалению, природная скромность музыканта и нежелание современников видеть в нем крупного композитора способствовало тому, что Черни так и остался в тени своего учителя Бетховена и своего ученика Листа. К застенчивому мастеру многие современники относились иронично, что в высшей степени несправедливо. При жизни его сочинения практически не исполнялись. Многие произведения Черни так и остались в рукописи (хранятся в архиве «Общества друзей музыки» в Вене). А он был чрезвычайно одаренным, интересным композитором. Соединив в своем творчестве классицизм с романтизмом, Черни открыл дорогу молодым экспериментаторам следующих поколений музыкантов.
Карл имел репутацию скромного, застенчивого человека, что разительно отличало его от других приверженцев романтизма. Он ни с кем не конфликтовал, в шумных вечеринках не участвовал, предпочитая уединение или путешествия. Возможно, по этой причине композитор так и не смог обустроить свою личную жизнь. Были ли у музыканта романы с женщинами, не знают даже самые дотошные биографы.
Многие из окружения Черни обвиняли его в черствости и отсутствии человеческих эмоций. На самом деле творец был очень преданным другом, способным пожертвовать ради окружающих многим. Он был настоящим фанатиком работы: трудился по 12 часов в сутки, а в старости и того больше. На склоне лет он стал вести затворническую жизнь, окружив себя домашними питомцами. В своих мемуарах автор писал, что жалеет о потраченном на развитие фортепианной техники времени. Вместо этого ему следовало больше внимания уделять созданию новых произведений.