За пределами Земли: В поисках нового дома в Солнечной системе

Будучи людьми, мы избегаем причинять друг другу вред, стараясь предугадать намерения друг друга. Нам помогают эмоции. Благодаря им мы предсказуемы. Ученые NASA в Исследовательском центре Эймса изучали ошибки и аварии роботов как одну из опасностей космического полета (эта область называться HARI[59]). Людям трудно понять и управлять деятельностью роботов в сложном трехмерном окружении. Роботы даже не пытаются понимать людей. Если астронавт велит системе наведения аппарата врезаться в Луну, он врежется в Луну.

В одном отчете 2013 г. исследователи HARI написали, что для успешного космического полета требуется командная работа. «Чтобы сложилась успешная команда людей, ее члены должны разделять общую цель, иметь общие ментальные модели, подавлять индивидуальные потребности ради потребностей группы, рассматривать доверительные отношения как нечто положительное, понимать свою роль в рамках команды и соответствовать ей. Роботы же не имеют ментальных моделей, индивидуальных ценностей и руководящих убеждений и даже самомотивации; роботы лишены существенных качеств успешного члена команды».

Если астронавты знают все о роботе и его функциях, они могут избежать проблем, постоянно представляя себе, о чем он «думает». Но роботы совершенствуются, завоевывают все новые области применения, и их внутренние процессы выходят за рамки понимания даже наилучшим образом обученных астронавтов. Ключ к хорошему пользовательскому интерфейсу может заключаться в том, чтобы облегчить ментальное моделирование «мышления» робота человеком.

Одно из решений заключается в том, чтобы делать роботов как можно более похожими на человека. Если роботы будут выглядеть как люди, то людям будет легче предугадывать их движения и действия. В идеале, прежде чем врезаться в Луну, человекоподобный робот сказал бы: «Вы уверены в этом приказе, майор Том? Я не хочу умирать».

Роботы-гуманоиды доказали свою эффективность в совместном с людьми решении задач. У робота Geminoid, созданного учеными из Университета Осаки, 50 моторов, управляющих выражениями его лица, движениями и имитацией человеческого дыхания. Выставленный в универсальном магазине, он продавал кашемировые свитера, обслуживая больше людей, чем смог бы продавец-человек, ведь он не нуждался в перерывах. Но он продал меньше свитеров, чем лучшие работники, потому что его клиенты, понимая, что робот лишен эмоций, гораздо легче отвечали ему отказом.

Задача Дими несколько иная. Вооруженный робот призван причинять людям вред. Но только врагу и только когда враг намерен драться. Убить сдающегося солдата — военное преступление, но, чтобы понимать, что тебе сдаются, нужно понимать человеческие намерения. Команда Дими установила оружие на его роботов-разведчиков. Из-за этого он чувствует себя некомфортно.

«Откуда вам знать, что собирается делать автономная система? — говорит Дими. — Откуда вам знать, что автономная система не убьет первое, что пошевелится справа от нее? Развернется и выстрелит. А это ребенок перебегал дорогу. Так случится, вероятно, много-много раз, прежде чем автономия станет достаточно хороша, чтобы понять, что это ребенок, это не солдат, не важно, чьей стороны, и не выстрелить».

Должностные лица ООН призвали к мораторию на эти вооружения. Организация по наблюдению за осуществлением прав человека хочет запретить летальное автономное вооружение, которое она в своих публикациях называет «роботами-убийцами». Даже если роботы могли бы уверенно выбирать, кого убивать, их существование все равно разрушает цепь ответственности, на которой основана наша система правосудия. Кто будет нести ответственность за убийство? Кто отправится в тюрьму, если военное преступление совершит робот?

Бонни Дочерти из Организации прав человека указывает на политические последствия в журнале Она пишет: «С точки зрения диктатора полностью автономное оружие — это совершенный инструмент репрессий, исключающий возможность бунта солдат-людей при получении приказа стрелять в своих. Эмоции могут быть не просто иррациональными влияниями и препятствиями для рассуждений, но главным ограничителем в войне».

Вооруженные роботы, созданные Апостолопулосом, были подготовлены к выходу на поле боя и размещены на территории США, но они никогда не отправлялись за океан.

«Был один бравый морпех, который сказал, что намерен спасти жизнь нескольким своим парням, используя роботов, — рассказал Дими. — Но до самого его увольнения такой шанс не выпал. А потом их вообще отправили на склад.

Но если где-нибудь через несколько лет вспыхнет война, опять скажут: «Давайте снова делать автономных роботов»».

Будущее