Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

По крайней мере, подобные системы должны бы (1) заранее предупреждать, когда они стараются изображать «телепатов» вместо того, чтобы оставаться «механическими» устройствами и (2) предлагать пользователям возможность выключить нежелательное «понимание» точно так же, как вы можете отключить контроль орфографии. Закон о «строгой ответственности» мог бы обеспечить необходимый стимул для проектировщиков: всякого, кто использует ИИ систему для принятия решений, способных повлиять на жизнь и благополучие людей, следует обязать пройти обучение и предупреждать о серьезном уровне ответственности по аналогии с пользователями любого другого опасного и мощного оборудования; поэтому в интересах разработчиков быть предельно скрупулезными, проявлять здоровый скептицизм и регулярно проверять результаты своих действий, как если бы они работали для себя. Косвенным путем это вдохновит создателей новых систем делать их прозрачными и максимально скромными, поскольку пользователи будут иметь право привлечь их к ответственности за халатность или за что-то и похуже.

Можно также внедрять постепенно политику, которая могла бы помочь удержать под контролем наши когнитивные обязанности. Можно придумывать технологию, «делающую нас сильнее»: для этого есть два пути – путь бульдозера и путь «Наутилуса»[228]. Первый – это путь из серии «сила есть, ума не надо», а второй учит создавать уникальную личную защиту. Большая часть программного обеспечения, которая повысила наши когнитивные способности, относилась к первому типу, от телескопов до микроскопов для секвенирования генома и новых программ глубинного обучения. А могут ли существовать программы «а ля Наутилус» для повышения способностей индивидуальных пользователей? На самом деле еще как могут, еще в 1985 году мы с программистами Стивом Барни и Стивом Коэном создали в Университете Тафтса студию программного обеспечения для учебных программ, главной задачей которой была разработка «протезов для воображения», программ, которые развивали воображение студентов, обнаруживая педагогические недоработки и узкие места, стимулируя учащихся создавать гибкие, динамичные, точные модели сложных явлений, таких как популяционная генетика, стратиграфия (интерпретация геологического строения различных слоев), статистика и информатика. Нашей целью было создание систем, изучив которые студент мог бы улучшить свое понимание и способности к интенсивным самостоятельным исследованиям. Возможно, что сегодня приходит время более масштабных проектов, которые могли бы помочь людям научиться думать креативно и точно о тех сложных явлениях, которые буквально окружают их, сделать людей независимыми, самостоятельно мыслящими, понимающими пользователями эпистемологических протезов, готовыми к развитию, а вовсе не пассивными некритичными потребителями любых технологических продуктов, что попадаются им под руку.

* * *

Мы рассмотрели некоторые инновации, которые заставили нас отказаться от идеи великого творения, которая долгое время царила в умах представителей нашего вида. Другие идеи еще ждут своего часа. В течение тысячелетий мы руководствовались мыслью, высказанной в знаменитом изречении Фейнмана: «То, что я не могу создать, я не могу и понять». Однако не так давно наша изобретательность встала на скользкий путь: мы обнаружили себя создающими вещи, которые мы понимаем лишь частично, а они, в свою очередь, могут создавать вещи, которые мы не понимаем вовсе. Поскольку некоторые из этих вещей обладают потрясающими возможностями, мы рискуем начать сомневаться в ценности понимания – или, по крайней мере, в его исключительности. «Понимать – это так старо, архаично, олдскульно! Кому это надо – что-то понимать, когда мы можем использовать замечательные штуки без каких-либо усилий?»

Существует ли достойный ответ на этот вопрос? Нам нужно нечто большее, чем традиции, если мы хотим защитить идею, что понимание является благом и само по себе, независимо от того, приносит ли оно какие-либо косвенные блага, и по практическим соображениям, чтобы мы могли продолжать жить жизнью, имеющей значение. Философы, и я в том числе, скорее всего, придут в ужас от перспективы будущего без понимания. Сократ сказал: «Неисследованная жизнь не стоит того, чтобы жить», и еще с тех времен мы полагали совершенно очевидным, что все большее понимание всего представляет собой нашу главную профессиональную цель, если не вообще высшую человеческую цель. Но как сказал другой философ, Курт Байер, недавно покинувший нас, «писать о подробностях исследования жизни – занятие не для каждого». Многие люди вполне довольны своим положением потребителей технологий и медицины, научных исследований и художественного творчества и не особенно стремятся понять, как все эти «чудеса» были созданы. Неужто принять эту сверхцивилизованную жизнь и доверить умным артефактам управление нашим благополучием – столь ужасно?