И это я говорю только про прямое измерение линейных перемещений, а если такие датчики совместить с винтовыми подачами, точность еще больше увеличивается. Например, для винта диаметром два сантиметра длина витка грубо говоря два-пи-эр = 6,28 сантиметра. Которые мы можем измерять с точностью 2,5 микрона (если электронщики все-таки выдадут растры с шагом в двадцать микрометров, в чем я не сомневался). То есть на один виток придется 25 000 единиц измерения (62,8 миллиметра делить на 2,5 микрона). Соответственно, при шаге винтовой поверхности в 1 миллиметр мы на каждом обороте получим эти 25 000 измерений, то есть продольное перемещение можем измерять с точностью 1 / 25 000 = 40 нанометров (ха-ха). Да там вибрации и тепловые деформации могут быть больше этой величины ! И этого с учетом резерва на погрешности измерений более чем достаточно для измерений с точностью, скажем, в 200 нанометров. Ну или с учетом погрешности изготовления резьбы - пусть даже полмикрона. Собственно, электронщики активно пользовались резьбовыми приводами для повышения точности измерений и без растровых решеток, да и металлообработка массово применяла микрОметры на винтовом ходу - а по другому ловить микроны и не получится.
Само собой, тут потребуются уже круговые, а не линейные шкалы, но они у нас тоже были - народ учился ловить люфты программным способом, для чего навешивал на валы датчики и отмерял количество импульсов по каждому механическому звену - скажем, если вал двигателя провернулся уже на десять делений, а сцепленная с его шестеренкой другая шестеренка - только начала выдавать импульсы - уже можно посчитать зазор в кинематической паре шестерня двигателя - первая шестерня редуктора. А ведь эти датчики можно навешать вплоть до ходового винта, и таким образом можно посчитать полный люфт привода, с выявлением "слабого звена", а если учесть датчик линейного хода, то и полный люфт системы двигатель-инструмент. Это полезно не только для расчетов перемещения и обработки, но и для отслеживания состояния станка - не пора ли менять в нем детали, а то и вовсе списывать в учебные учреждения, чтобы школьники окончательно его доломали.
Впрочем, и помимо этих тонкостей с люфтами работы предстояло еще много. Мы ведь научились измерять только перемещения агрегатов станка, но не размеры обрабатываемой детали. А там было еще много тонкостей, и даже если суппорт перемещается с высокой точностью, это не значит, что деталь попадет в размеры - там и износ резца, и тепловые деформации при обработке, и отгиб детали или резца из-за недостаточной жесткости - для измерения всех этих величин требовались датчики и алгоритмы. А для алгоритмов были нужны не только программы, но и аппаратура, которая сможет их отрабатывать.
Тут как раз и пригодилась случайно разработанная станочниками схема измерения вибраций, которую электронщики утащили на свое оборудование. А то у них была беда - они вышли на проектные нормы менее десятка микрон, но все получалось очень размытым. И было подозрение, что из-за вибраций, а чем их померять - непонятно. А тут - готовая схема, а главное - идея, которая в дальнейшем помогла во взятии новых рубежей. Ведь с новыми проектными нормами было еще много проблем, а спускаться ниже десяти микрометров мы в массовом производстве пока точно не могли - опыт изготовления в лабораториях единичных микросхем по более тонким процессам ставил больше вопросов чем давал ответов.
Взять тот же фоторезист. Методы фотолитографии вообще-то известны уже давно. Так, в 1852 году в Англии было запатентовано использование смеси бихроматов - солей дихромовой кислоты - с желатиной - эта смесь становилась нерастворимой на освещенных участках. Эти "хромированные коллоиды" применяют в полиграфии и сейчас. В тридцатых годах уже двадцатого века были открыты фоторезисты на основе коричной кислоты в матрице природных пленкообразующих смол. И получение этого фотореактива дело не слишком сложное - в реакциях участвуют либо ацетон с бензальдегидом, либо бензойный альдегид с уксусной кислотой - в присутствии каких-нибудь хлорных соединений - все эти реакции были известны и как минимум на уровне лабораторного производства не представляли никаких сложностей.