Ethical OS предполагает применение мышления полного спектра в отношении потенциальных эффектов и опровергает традиционное представление о том, что создатели новых технологий — просто пассивные разработчики и не должны беспокоиться о последствиях, которые могут повлечь их изобретения, попав в плохие руки.
В основе системы ОС три ключевых вопроса.
1. Как вы планируете подготовиться к тому, что технология, над которой вы сейчас работаете, когда-нибудь может быть использована в неожиданных для вас целях?
2. На какие новые категории риска необходимо уже сейчас обратить особое внимание?
3. Какие решения относительно модели дизайна, состава команды или бизнеса смогут обезопасить от будущих рисков пользователей, сообщества, общество в целом и вашу компанию в частности?
Ethical OS помогает разработчикам успешно пройти три основных этапа: представить будущие риски, определить области, которым может быть причинен социальный ущерб, и привести свою технологию в соответствие с потребностями завтрашнего дня, чтобы избежать потенциально вредных последствий. На первом этапе Ethical OS предлагает разработчикам рассмотреть 14 сценариев — от доставки с помощью дронов до инструментов предиктивного (прогностического) правосудия, которое автоматически выносит приговор о тюремном заключении, опираясь на агрегированные данные. Эти сценарии помогают разработчикам тщательно продумывать потенциальные последствия, вытекающие из проблем, тесно связанных с нынешними технологиями: это добыча и интеллектуальный анализ данных, сохранение конфиденциальности личной информации, алгоритмическая предвзятость и т. д.
Ethical OS выделяет восемь зон риска, где наиболее вероятны труднопредсказуемые и нежелательные последствия.
• Рост недоверия, дезинформация и пропаганда.
• Зависимость и дофаминовая экономика.
• Экономическое неравенство и неравенство в распределении активов.
• Машинная этика и алгоритмическая предвзятость.
• Государственный надзор.
• Контроль и монетизация данных.
• Полное доверие и понимание потребностей пользователей.
• Деятели, возбуждающие ненависть, и преступные элементы.
Разработчикам рекомендуется тщательно анализировать свой инновационный продукт и определять, в какой зоне риска он может быть наиболее уязвим. После определения зоны риска разработчики представляют мир будущего и место своего продукта в этом мире. Затем переходят на последний этап Ethical OS: пытаются привести свою технологию в соответствие с требованиями завтрашнего дня. Для этого этическая система ОС предлагает шесть стратегий, которые преобразуют благие намерения в реализуемые меры защиты. Эти стратегии и идеи преследуют цель побудить к активным действиям и создать дополнительную инфраструктуру в среде разработчиков инновационных технологий[167]
.Нанимайте на работу и продвигайте на руководящие посты истинных цифровых аборигенов. Нынешние молодые люди надеются на быстрое продвижение по карьерной лестнице, но организации нередко просто не заточены на то, чтобы предоставлять сотрудникам быстрое повышение уровня ответственности (необязательно в связи с назначением на более высокую должность) и увеличение вознаграждения (необязательно в денежном выражении).
Цифровые аборигены, многие из которых получили навыки мышления полного спектра с помощью видеоигр, будут иметь конкурентные преимущества над своими старшими коллегами, по мере того как начнут занимать лидирующие позиции в трудовых ресурсах. Остальным же порой будет неловко за свою бездумную категоризацию людей, политики и идей, которая будет совершенно очевидна для истинных цифровых аборигенов.
Военные делают правильно, обеспечивая быстрое повышение степени ответственности на уровне младшего звена, но многие крупные корпорации все еще придерживаются политики медленного продвижения по службе. В этой области можно прогнозировать угрозу межпоколенческой напряженности, но существуют способы обратить эту проблему в благоприятную возможность и избежать критической ситуации.
Разработайте межпоколенческую программу наставничества для своего персонала. Межпоколенческое наставничество — одно из наиболее серьезных и при этом простых изменений, которое можно внедрить в вашей организации. В Институте будущего практически каждая исследовательская команда состоит из представителей разных поколений. В последние 15 лет со мной тесно сотрудничал один молодой человек. Я руководствуюсь очень простым критерием отбора людей для совместной работы: человек должен быть непохож на меня, чтобы мне было интересно с ним работать. Эти молодые люди были для меня наставниками в не меньшей — а иногда и в большей — степени, чем я для них.
Несмотря на то что возраст истинных цифровых аборигенов не так уж велик, важно понимать, что у каждого есть какие-то полезные качества и знания, которые станут ценным вкладом в межпоколенческое взаимодействие. Люди старшего возраста имеют полное право на игру в мудрецов, но мы должны понимать, как играть в эту игру, учитывая новые средства коммуникации, новые правила и новые угрозы.