Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Пока машины глубокого обучения проявляют довольно мало признаков роста подобного рода навыков. Домингос настаивает, что самообучающиеся машины созданы (весьма разумно) для того, чтобы самостоятельно использовать дарвиноподобные, восходящие процессы самосовершенствования. Для программы IBM Watson, победившей в 2011 году чемпионов телевикторины Jeopardy[222] Кена Дженнигса и Бреда Раттера, слова, которые она связывала в ответах, были не мыслительными инструментами, но просто узлами в многомерном пространстве узлов, не столько мемами, сколько ископаемыми следами человеческих мемов, сохраняющими колоссальные объемы информации о человеческих верованиях и практиках, но не принимающими активного участия в этих практиках. Пока нет, но, может быть, однажды это произойдет. Короче, программа Watson пока не думает, пользуясь словами, о том, что является для нее статистической информацией. Watson может отвечать на вопросы (на самом деле благодаря странным правилам викторины программа может составлять вопросы, на которые подсказки викторины служат ответами. Jeopardy: «Столица штата Иллинойс», участник: «Что такое Спрингфилд?»), но это не беседа.

Именно способность к самоконтролю, готовность подвергнуть паттерны реакций мозга дополнительному раунду (двум, трем или семи раундам) процедуры распознавания паттернов, дает разуму способности к совершению прорывов¹⁰². Сегодняшнее машинное обучение действует в среде, где роли играют умные люди-пользователи, такие как Фрэнсис Арнольд с ее мастерской белков или Дэвид Коуп с экспериментами в области музыкального интеллекта, проектировщики и операторы машин, – они оценивают, улучшают, критикуют, корректируют и удаляют появляющиеся время от времени сомнительные результаты. Они являются критиками, чья деятельность по контролю качества обеспечивает селекцию, могущую в принципе привести эту систему к пониманию, поднять ее от уровня инструмента до уровня коллеги, но это будет гигантский шаг или даже серия гигантских шагов. С этой точки зрения мы можем более отчетливо осознать, что наш зараженный мемами разум служит вместилищем пользователей, критиков необработанных реакций наших животных мозгов, без которых мы были бы такими же бесхитростными существами, как другие млекопитающие, которые прекрасно справляются в привычных условиях, но теряются перед лицом серьезных изменений.

Любопытство сгубило кошку, как известно из одного мема, и любопытство животных, движимое снизу вверх присутствием новизны, является высокорискованным, порой дорогостоящим, но важным свойством многих видов; но только человек обладает любопытством контролируемым, систематическим, способным к предвидению и проверке гипотез, чертой пользователей, сидящей в каждом мозгу, пользователей, способных применять широкие возможности своего мозга для обнаружения статистических закономерностей. Пользовательская иллюзия сознания играет ту же самую роль для каждого из нас, что и интерфейс человекоподобного компьютера Ватсона и других систем глубинного обучения; они представляют собой нечто вроде витрины для талантов, «рынок идей», где оценка в реальном времени и конкуренция могут повысить скорость и разрешающую способность контроля качества.

Таким образом, человеческое мышление (Дарвин считал его особым явлением и назвал методическим отбором) может ускорить естественный отбор, сосредоточив селективные усилия на восприятии и мотивации специалистов по одомашниванию. Фрэнсис Арнольд не просто выращивает новые белки; она создает интенсивное, направленное их воспроизводство. Это должно насторожить нас: наш удивительный разум не застрахован от причуд и фантазий, которые могут исказить наши проекты, направить их в странном и даже ведущем к саморазрушению направлении. Подобно тому как любители голубей порой разводят птиц с невероятным оперением или заводчики собак создают несчастных инвалидов, «игрушечных собачек», человеческие существа могут – часто с помощью слишком активных помощников – превращать свои умы в гротескные артефакты, беспомощные или даже хуже.