Микротренды, меняющие мир прямо сейчас

● Эксперименты с программным обеспечением, основанным на алгоритмах поведения потребителей, должны быть в максимальной степени прозрачными, их цели и методы во всех случаях должны разъясняться.

● Программное обеспечение, предлагающее человеку сделать выбор или осуществляющее выбор вместо него, должно во всех случаях раскрывать основания, по которым предлагается тот или иной набор решений. Кроме того, оно должно раскрывать, предлагаются эти решения исходя из интересов или выгоды третьих лиц, например рекламных агентств или бизнесов, или же исходя из интересов пользователя. В некоторых случаях в этой области может потребоваться законодательное регулирование.

● Все сообщения роботов и ботов должны иметь четкую маркировку и сопровождаться постоянными предупреждениями о том, что они генерируются программным обеспечением, а не людьми. Например, во всех случаях, когда служба поддержки клиентов использует бота, а не живого человека, она должна обязательно уведомить об этом потребителя.

● Сибуя Мираи – первый персонаж ИИ, получивший официальный статус жителя Токио. Необходимо отменить его прописку. Его нет в природе. Это всего лишь бот с искусственным интеллектом. Его задача – беззаботно болтать с жителями Токио, чтобы парировать их вопросы. Это было сделано с благими намерениями, но стало первым шагом по пути, конец которого не предвещает ничего хорошего: боты не люди, они не обладают правами человека, а неопределенность в этом вопросе постепенно приведет к преждевременному выводу об их безобидности. Но вспомните «Колосс: Проект Форбина», «Грань», «В поле зрения», «Звездный крейсер "Галактика"», «Терминатор» – все эти фильмы заканчиваются одинаково: полной или почти полной гибелью человечества от рук ботов, ставших слишком многочисленными и всемогущими. При всей фантастичности подобных сценариев не стоит игнорировать такие риски в реальной действительности.

● Когда затрагиваются вопросы жизни и смерти, программное обеспечение (за исключением используемого полицией и армией) должно всегда отдавать приоритет безопасности человека, а полная иерархия приоритетов должна быть открытой. Запрещается разрабатывать программное обеспечение, использование которого создает риск для жизни, без четкого предупреждения о наличии такого риска.