Работая на монетных дворах, Нартов обратил внимание на отсутствие точных единиц измерения веса, правильных весов и способов взвешивания. Для устранения этого он составил чертежи правильных «весов и гирь», изобрёл весы своей конструкции. В 1733 г. он выдвинул идею создания единого общегосударственного эталона веса и разработал систему для создания этого эталона. Как автор этой системы, он должен считаться основоположником русской метрологии.
В эти же годы Нартов создавал приборы и механизмы для учёных, о чём свидетельствует его доношение об изготовлении им в 1732 г. по просьбе Академии наук «махины для обсерватории».
В 1735 г. Нартов был вызван из Москвы в Петербург и назначен начальником академической механической мастерской, созданной им на основе переданной Академии Петровской токарни, — «Лаборатории механических дел».
Заботясь о том, чтобы начинания Петра I не были забыты, Нартов приступил к составлению книги, в которой хотел свести сведения о всех «механических и математических токарных дел махинах и инструментах», связанных с деятельностью Петра. Он послал своего ученика Михаила Семёнова в Москву, чтобы тот перевёз оттуда в академическую мастерскую «первейшие токарные махины и инструменты из Преображенского, где они стоят забвенно». А. К. Нартов много сил отдавал подготовке мастеров и механиков для мастерской, а также созданию новых металлообрабатывающих станков и других машин. Он изобрёл станок для нарезывания винтов, машину для вытягивания свинцовых листов, машину для подъёма на колокольню Царь- колокола, пожарно-заливную машину, станок для печатания ланд-карт и другие.
Однако после смерти Петра I Нартову пришлось терпеть притеснения со стороны иноземцев, пытавшихся монополизировать науку и технику в России. Особенно острой была борьба А. К. Нартова с всесильным Шумахером, захватившим Академию наук в свои руки. Последний надолго задерживал выплату денег Нартову, оставляя его фактически без средств к существованию. Как писал Нартов, он со своей семьёй был таким путём доведён до полного разорения, до «последнего убожества».
Несмотря на это, Нартов очень много и успешно продолжал работать. И академическое начальство вынуждено было считаться с этим и фактически признавало его главным техническим экспертом Академии наук, поручая ему важные задания. Порой ему приходилось выполнять подобные поручения вместе с такими корифеями науки, как Леонард Эйлер.
В июне 1742 г. А. К. Нартов отправился в Москву и повёз с собой жалобы на Шумахера многих академических работников. Они единодушно обвиняли Шумахера в присвоении десятков тысяч рублей из академических денег и во многих других злоупотреблениях. Особенно их возмущало то, что Шумахер поставил целью уничтожить замыслы Петра I, лёгшие в основу создания Академии.
За 17 лет существования Академии в ней не появилось ни одного русского академика! Осенью 1742 г. была назначена следственная комиссия, Шумахер был арестован, а все академические дела были поручены А. К. Нартову: «Поведено смотрение в Академии поручить советнику г. Нартову».
Распоряжения А. К. Нартова как руководителя Академии наук показывают, что его главной задачей было создание условий для подготовки русских учёных. Он стремился наладить запущенное Шумахером финансовое хозяйство Академии, убрать из неё бездельников, организовать новую типографию для публикации научных работ, заботился о М. В. Ломоносове, вступался за него перед следственной комиссией. В свою очередь и М. В. Ломоносов не раз выражал своё глубокое уважение к великому инженеру и изобретателю.
Несмотря на все усилия А. К. Нартова и его единомышленников, изменить положение в Академии не удалось. Преодолеть засилье иностранцев, привыкших хозяйничать в Академии наук, оказалось тогда слишком трудным. «Недоброхоты наук российских», травившие в дальнейшем М. В. Ломоносова, пустили в ход самые омерзительные приёмы против А. К. Нартова. Они дошли до клеветнического вымысла о том, что якобы А. К. Нартов даже «писать и читать не умеет».
В конце 1743 г. Шумахер и его сторонники снова захватили власть в Академии. После отстранения от руководства Академией наук А. К. Нартов с 1744 г. работал в артиллерийском ведомстве, а в Академии наук занимался лишь подготовкой новых кадров русских техников и трудился над «триумфальным столбом» — памятником Петру I.
Ещё в 1740 г. заслуги Андрея Константиновича в области артиллерийской техники были специально отмечены. Теперь же он так развернул военно-технические работы и свою изобретательскую деятельность, что понадобилось создание особого центра — Секретной палаты, куда не допускались даже служащие Арсенала.
В ограждённых забором зданиях Секретной палаты работали изобретённые А. К. Нартовым машины для сверления пушек, для обтачивания пушечных цапф и других ответственных технологических операций, проводились испытания. Таким образом, А. К. Нартов создал внутри Арсенала свой исследовательский и производственный центр.