Совместимость. Как контролировать искусственный интеллект

В качестве инструментов исследования роботы могут способствовать пониманию того, как люди интерпретируют поведение и коммуникации робота. Как прототипы будущих коммерческих продуктов они являются вариантом обмана. Они обходят сознательную осведомленность и воздействуют непосредственно на эмоциональное «я», возможно, убеждая нас, что наделены реальным интеллектом. Представьте, например, насколько проще было бы выключить приземистую серую коробку, работающую ненадлежащим образом, даже если бы она сигнализировала о своем нежелании быть выключенной, чем поступить так же с человекообразными Цзя Цзя или Geminoid DK. Представьте также, какую сумятицу и, пожалуй, психологический дискомфорт вызывало бы у маленьких детей, если бы за ними ухаживали сущности, которые представляются такими же людьми, как и их родители, но на самом деле не люди; и словно бы заботятся о них так же, как родители, но это только кажется.

Помимо базовой способности передавать невербальную информацию посредством мимики и движений, с чем прекрасно справляется даже Багз Банни, роботам незачем быть человекообразными — этому нет убедительной причины. Напротив, имеются веские, прагматичные причины не делать их человекообразными — например, наше вертикальное положение относительно неустойчиво по сравнению с передвижением на четырех ногах. Собаки, кошки и лошади отлично вписались в нашу жизнь, и их физическая форма является очень хорошей подсказкой в отношении их вероятного поведения. (Представьте, что лошадь вдруг начала вести себя как собака!) То же самое будет верно в отношении роботов. Четырехногое, двурукое строение, как у кентавра, представляется удачным стандартом. В роботе, точно повторяющем облик человека, не больше смысла, чем в «Феррари» с ограничением скорости 8 км/ч или в «малиновом» мороженом из печеночного паштета со свекольным соком.

Человекообразность некоторых роботов уже привела к политическим и эмоциональным затруднениям. 25 октября 2017 г. Саудовская Аравия предоставила гражданство Софии, гуманоидному роботу, представляющему собой, по описанию, не более чем «чатбот с лицом»[179], даже хуже[180]. Возможно, это была пиар-акция, но предложение Комитета по юридическим вопросам Европейского парламента звучит совершенно серьезно[181]. В нем рекомендуется:

…в долгосрочной перспективе создать особый правовой статус для роботов, чтобы, по крайней мере, самые совершенные автономные роботы могли иметь статус электронных личностей, отвечающих за любую принесенную ими пользу и причиненный вред.

Иными словами, сам робот будет нести юридическую ответственность за ущерб, а не его владелец или производитель. Это предполагает, что роботы будут владеть финансовыми активами и подвергаться наказаниям за неподчинение. В буквальном понимании это просто бессмысленно. Например, если мы посадим робота в тюрьму за просрочку платежа, ему-то что?

Помимо ненужного и на самом деле абсурдного повышения статуса роботов, имеется опасность, что более активное использование машин в принятии решений, влияющих на людей, принизит статус и достоинство людей. Эта возможность прекрасно показана в сцене из научно-фантастического фильма «Элизиум», когда Макс (которого играет Мэтт Дэймон) пытается объяснить «чиновнику», решающему вопрос о досрочном освобождении (рис. 11), почему продление срока его заключения незаконно. Разумеется, все безрезультатно. Чиновник даже делает Максу выговор за недостаточно почтительное отношение.

Возможны два взгляда на подобное унижение человеческого достоинства. Первый очевиден: давая машинам власть над людьми, мы обрекаем самих себя на более низкий статус и теряем право участвовать в принятии решений, касающихся нас. (Крайней формой этого было бы предоставление машинам права убивать людей, что обсуждалось ранее в этой главе.) Второй подход не столь прямолинеен: даже если вы верите, что решения принимают не машины, а люди, которые их разрабатывают и поставляют, тот факт, что эти люди, разработчики и поставщики, не считают целесообразным учитывать личные обстоятельства человека в каждом конкретном случае, свидетельствует о том, что они не придают особой ценности жизни других людей. Это вероятный симптом начала великого разъединения человечества на элиту, обслуживаемую людьми, и огромную деклассированную массу, которую обслуживают и контролируют машины.

В ЕС статья 22 Общего регламента по защите персональных данных (GDPR) от 2018 г. явно запрещает предоставление власти машинам в подобных случаях: