Упрощенно можно представить, что в сканирующем туннельном микроскопе роль оптического устройства играет тончайшее металлическое (как правило, вольфрамовое) острие, или зонд
В процессе сканирования игла движется вдоль образца. Когда зонд сканирующего туннельного микроскопа (СТМ) оказывается на расстоянии около 10 А от поверхности, что эквивалентно размеру нескольких атомов (~0,5–1,0 нм), между зондом и образцом устанавливается рабочее напряжение, и электронные облака на конце зонда и ближайшего к нему атома объекта перекрываются. В результате электроны «перескакивают» через зазор. Другими словами, электрический ток из образца начинает проходить через промежуток в иглу (или наоборот – в зависимости от знака напряжения, хотя непосредственного контакта между зондом и поверхностью в привычном понимании нет). Нормальные значения этого тока находятся в пределах 1-1000 пА при расстояниях около 1 А от поверхности образца. Величина тока чрезвычайно чувствительна к размеру зазора и обычно при его увеличении на 0,1 нм уменьшается в 10 раз.
Электрический ток протекает благодаря так называемому туннельному эффекту, из-за которого получил свое название микроскоп. Как уже отмечалось, феномен заключается в том, что электрон может преодолеть энергетический (то есть потенциальный) барьер, образованный разрывом электрической цепи – небольшим промежутком между зондирующим микроострием и поверхностью образца, даже не обладая достаточной энергией, то есть он «туннелирует» сквозь эту преграду (рис. 32).
Возникающий в результате «туннельный ток» изменяется в зависимости от зазора между зондом и образцом по экспоненциальному виду. Сила туннельного тока остается стабильной за счет действия обратной связи, и удлинение следящей системы меняется в зависимости от топографии. Сила протекающего тока измеряется регистрирующим устройством, что позволяет оценить расстояние между зондом и поверхностью образца (ширину туннельного перехода), сканирование которого производится последовательно, атом за атомом, давая высокоточную картину поверхности исследуемого материала.