Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Уже существуют артефакты, а многие другие находятся в стадии разработки, обладающие способностями, превосходящими все людские способности, и они готовы узурпировать наш авторитет экспертов, авторитет, который не ставился под сомнение со времен начала эры созидания. Мы уступим наше превосходство этим артефактам по вполне серьезным практическим и моральным причинам. На мой взгляд, уже сейчас отправку трансатлантического круизного лайнера с пассажирами, но без нескольких GPS-систем, можно считать преступной небрежностью. Навигация по звездам с помощью секстанта, компаса, хронометра и «Морского альманаха» представляется такой же причудой, чем-то вроде хобби, как умение точить косу или управлять упряжкой волов. Тот, кто владеет этими навыками, может приятно проводить время в соответствующей группе единомышленников в Интернете, а любитель старинной навигации – взять с собой древние инструменты и тренироваться с ними в сторонке, в надежде, что вдруг они понадобятся. Но мы не имеем права рисковать человеческими жизнями, игнорируя доступные высокотехнологичные инструменты.

Мы продолжаем учить в школе таблицу умножения и учимся использовать ее для больших чисел (вы владеете умножением в столбик?), еще мы можем делить числа при помощи карандаша и бумаги, но очень малая часть из нас умеет в уме извлекать квадратный корень. Ну и что? Не стоит тратить усилия и мозговые клетки на задачу, которую вы можете решить нажатием нескольких кнопок или спросив Google или Siri. Стандартный ответ на беспокойство, возникающее у родителей детей: должны ли мы обучать их принципам, на которых строятся методы, которые мы сами до сих пор еще можем использовать, – да, для их понимания важен некий минимальный уровень практики, однако мы (вероятно) уже можем выбросить эти принципы из оборота и не загружать детей архаическими трудоемкими приколами. Это просто здравый смысл, но насколько широко его можно распространять?

Например, медицинское образование. Watson – всего лишь одна из многих компьютерных систем, которые начинают превосходить лучших диагностов и специалистов на их собственной территории. Готовы ли вы потакать вашему любимому врачу в его желании сохранить старомодную «интуитивную» диагностику по симптомам, вместо того чтобы положиться на компьютерные системы, доказавшие свою надежность, превышающую надежность визуальных способностей любого специалиста в сотни раз, в поиске редких, едва заметных признаков болезни? Ваш медстраховщик будет обязан отправить вас на тестирование, и ответственные доктора увидят, что должны запретить себе желать стать героями диагностики и отдать ответственность машинам, чьи кнопки они нажимают. Как это изменит подготовку врачей? Позволит ли это им отбросить значительную часть традиционных курсов медицинского образования – анатомию, физиологию, биохимию, вместе со способностью делить в столбик и читать карту? Используй или потеряешь – это практическое правило работает во многих ситуациях и имеет массу положительных последствий. Умеют ли ваши дети читать дорожные карты так же легко, как вы, или они уже зависят от GPS, чтобы попасть из пункта в пункт? Насколько мы должны беспокоиться о собственной растущей зависимости от умных машин?

До сих пор еще существует довольно четкая граница между машинами, которые помогают нам усилить «периферийные» интеллектуальные возможности (восприятие, алгоритмические вычисления, память), и машинами, которые претендуют на замену наших «центральных» интеллектуальных способностей, нашего понимания (включая воображение), способности планировать, принимать решения. Ручные калькуляторы, системы GPS, компьютерная графика Pixar для интерполяции кадров, расчета теней, добавления текстуры и тому подобное; и ПЦР и метод CRISPR в генетике – все они явно находятся на периферии, несмотря на то что еще недавно выполняемые ими задачи требовали весьма серьезных познаний. Мы можем прогнозировать расширение границ их применения, превращения все большего количества когнитивных задач в компьютерную рутину, и это замечательно до тех пор, пока мы понимаем, где эти границы проходят. Это реальная опасность, я полагаю, что на самом деле наше место властителей судеб займут не машины, которые намного умнее нас, а это мы рискуем переоценить способность наших инструментов к пониманию, уступив им власть преждевременно, задолго до достижения ими нужного уровня компетентности.