Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Подобные отношения с машинами, отличаясь от отношений с реальными людьми, окажутся тем не менее продолжительными и бурными. Поэты и ученые десятилетиями будут сравнивать первые и вторые, даже когда искусственные интеллекты уже станут нашими доверенными и ценными спутниками. Реальным людям будет тяжело конкурировать с ИИ, но все же придется. Для этого потребуется вести себя еще более просоциально. Процесс селекции, сформировавший такие человеческие качества, как альтруизм и мораль, может ускориться — ведь людям придется соревноваться с машинами за статус более интересного и предпочтительного партнера. На самом деле, если взглянуть на гостиные, в которых каждый член семьи погружен в собственный виртуальный мир, то можно прийти к мысли, что с машинами уже довольно сложно конкурировать.

В краткосрочной перспективе проще всего соревноваться с компьютерами за наше внимание и любовь будет собакам. После нескольких тысяч лет отбора они стали как раз тем, чего мы хотим, — любящими спутниками, верными, всегда готовыми с нами поиграть и услужить нам. Они пребывают в блаженном неведении о том, для чего нужны телефоны и планшеты. Станут ли компьютеры чем-то вроде мыслящих и говорящих собак? Можно на это надеяться. Но сомневаюсь, что наши машины когда-нибудь будут мохнатыми и теплыми, что будут смотреть преданными глазами, выпрашивая лакомство, и лезть под руку, чтобы их погладили, или проситься погулять. Мы еще очень долго будем предпочитать собак. Все-таки глубочайшее удовлетворение происходит не от того, что другие делают для нас, а от того, что нас ценят за сделанное для других.

Мыслящие машины и тоска

Ричард Нисбетт

Психолог; профессор Мичиганского университета; автор книги «Мозгоускорители: Как научиться эффективно мыслить, используя приемы из разных наук» (Mindware: Tools for Smart Thinking)[68]

Впервые возможность подумать о том, как мыслящие машины способны повлиять на жизнь человека, выпала мне на лекции, которую несколько десятков лет назад читал профессор информатики на коллоквиуме отделения психологии в Йельском университете. Темой лекции было: «Как повлияет на самооценку и благополучие людей то, что компьютеры смогут делать все лучше: обыгрывать чемпионов по шахматам, писать великие симфонии?»

«Хочу сразу уточнить две вещи, — сказал докладчик. — Во-первых, я не знаю, смогут ли машины когда-нибудь делать все это. Во-вторых, я единственный человек в комнате, у которого есть право на собственное мнение по этому вопросу». Последнее утверждение было встречено вздохами и нервными смешками.

Прошло несколько десятилетий, и вот компьютеры способны на многие из тех удивительных вещей, которые упоминал докладчик, — в этом не остается никаких сомнений, и, боюсь, ответ на вопрос о том, что́ их достижения будут означать для человечества, таков: машины нас совершенно деморализуют и оставят не у дел. Я расстроился, когда Deep Blue обыграл Гарри Каспарова в шахматы. Я мгновенно впал в депрессию, когда IBM Watson, его наследник, обошел своих соперников в Jeopardy! и, конечно, мы знаем, что машины уже умеют писать композиции, которые поразили бы самого Джона Кейджа!

Что будет с моральным настроем людей, когда любую их работу машины научатся делать на более высоком уровне? Как относятся пилоты самолетов к тому, что машина справляется с их обязанностями лучше, чем они? Сколько пройдет времени, прежде чем эта профессия устареет подобно сотням других? Как отнесутся бухгалтеры, финансисты и юристы к тому, что все, чем они зарабатывают себе на хлеб с маслом, станут выполнять машины, причем гораздо эффективнее и несравнимо быстрее? А врачи, физики и психотерапевты?

Как мы отнесемся к тому, что для нас просто не останется сколько-нибудь важной работы? Что машины будут сеять и жать вообще без нашего участия? Что машины научатся создавать еще более совершенные машины, о каких человек и помыслить бы не мог? Или что они станут более интересными собеседниками, чем самые умные из ваших друзей?

Стив Джобс сказал, что потребитель не обязан знать, чего он хочет. Компьютеры могут заявить, что люди не обязаны знать, чего хотят.

Как и вы, я люблю читать, слушать музыку, смотреть фильмы и спектакли, бывать на природе. Но я также люблю работать — и чувствовать, что моя работа интересна, по крайней мере, для меня, а может быть, она еще и улучшает чью-то жизнь. Как отнесутся люди вроде меня или вас к тому, что их работа окажется бессмысленной и что у них останутся только развлечения?