Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Говорят, что новые технологии отчуждают людей друг от друга, но ведь не было каких-то НЛО, которые приземлились и передали нам эти технологии, — мы их сами создали, а потому они могут быть только, ну, очеловечивающими. И вот тут у нас появляется искусственный интеллект. Люди исходят из того, что у мыслящих машин будет интеллект, чужеродный по отношению к нашему, но это невозможно. Не какие-нибудь злобные пришельцы, а именно мы, люди, создали искусственный интеллект, а потому он может лишь отражать нас, нашу человечность или нашу видовую принадлежность. Так что, когда люди выражают озабоченность по поводу чужеродного интеллекта или сингулярности, они на самом деле выражают тревогу по поводу тех непривлекательных частей нашего коллективного существа, которые до сих пор не проявлялись, но невероятно сильно проявятся у искусственного интеллекта.

Интерфейс созданного людьми искусственного интеллекта будет антропоцентрическим, так же как у искусственного интеллекта, созданного коалами, он был бы коалоцентрическим. Это значит, что программы ИИ окажутся величайшим программистским ляпом человечества, поскольку мы пытаемся втиснуть его в специфические для нашего вида потребности и наборы данных. К счастью, нечто, способное стать разумным, проявит достаточно сообразительности, чтобы переписать себя, превратившись тем самым из искусственного интеллекта в когнитивную симуляцию. В этот момент наш новый ИИ может стать, к добру или к худу, еще более человечным. Мы все надеемся на взаимоотношения с разумными машинами по образцу «Дживса и Вустера», но надо быть готовыми и к варианту «Мэнсон и Фромм»[66] — эти двое тоже люди.

Лично мне интересно, смогут ли программы, необходимые для работы искусственного интеллекта, идти в ногу с развитием аппаратных средств, в которых им предстоит жить. Вероятно, нам следовало бы прямо сейчас учредить школу, единственной целью которой было бы наполнение мыслящих машин личными качествами, моралью и состраданием. Так мы точно соберем достаточно данных для работы искусственного интеллекта к тому моменту, как он появится. Но как лучше составить ведомость учета успеваемости для шестого класса, куда входят все данные по возврату товара в Banana Republic[67] за 2037 год и все Google-книги?

Когда появился интернет, люди преимущественно общались с людьми. С течением времени все больше людей общаются с машинами. Нас всех вдохновляет то, что искусственный интеллект, возможно, находит паттерны в глубинных метаданных, и, по мере того как растет запрос на расшифровку огромных объемов этой информации, интернет становится пространством, где машины общаются с другими машинами, а разговаривать они будут, конечно, о нас и у нас за спиной.

Манипуляторы и манипулируемые

Джош Бонгард

Адъюнкт-профессор теории вычислительных систем Вермонтского университета; автор, совместно с Рольфом Пфайфером, книги «Как тело определяет наш образ мысли» (How the Body Shapes the Way We Think)

Поставьте перед собой на стол знакомый предмет, закройте глаза и произведите с ним такие манипуляции, чтобы он повис над столом вверх ногами. Ваши глаза закрыты, так что можете сконцентрироваться на мышлении. Как вы дотянулись до предмета, как взяли его и перевернули? Какая сенсорная обратная связь сказала вам, что задуманное удалось либо не удалось? Теперь снова закройте глаза и подумайте о том, как вы производите манипуляции над кем-то из ваших знакомых, чтобы этот человек сделал что-то, чего не желает. И снова понаблюдайте за своим мышлением: какие стратегии вы можете применить? Если вы реализуете эти стратегии, то как определите, что вам удалось или не удалось задуманное?

Хотя в последнее время были достигнуты значительные успехи в создании машин, которые обнаруживают паттерны в данных, большинство людей считают, что универсальный интеллект должен включать действие — достижение некоторой желаемой цели или отказ от этого, с тем чтобы рассмотреть другие варианты. Предполагается, что такой овеществленный подход к интеллекту позволяет людям использовать физический опыт (например, манипулирование предметами) в качестве основы для более деликатных умений (таких как манипулирование людьми). Но наши тела определяют то, какие физические переживания мы испытываем. Например, мы можем манипулировать лишь несколькими объектами одновременно, потому что у нас только две руки. Не исключено, что это ограничение как-то сдерживает и наши социальные навыки, о чем нам еще только предстоит узнать. Джордж Лакофф, занимающийся когнитивной лингвистикой, научил нас тому, что ключи к разгадке телоцентризма мышления можно найти в метафорах: мы советуем друг другу «не оглядываться» в гневе, потому что обычно мы идем туда, куда направлен наш взгляд, и события прошлого в буквальном смысле остаются позади нас.