Микротренды, меняющие мир прямо сейчас

В ближайшие годы это станет еще более важным, особенно в части, касающейся беспилотных автомобилей. Вы движетесь со скоростью 65 км/ч, и вдруг на дорогу перед вами падает башенный кран. Ваш «шофер» начинает считать варианты: въехать в кран – значит убить вас и разбить машину; резко уйти вправо – значит спасти вас и машину, но убить пешехода; резко повернуть влево и врезаться в дорожное ограждение – остается риск для вашей жизни, машина не погибнет, но дорожному ограждению будет нанесен ущерб на $200 000. Ответственных лиц нет, есть только просчитывающий варианты компьютер, которому предстоит сделать выбор – и чем он будет обоснован? Что важнее сохранить – вашу жизнь, машину или общественное имущество? А что бы вы сделали, будь сейчас за рулем? Имеет ли право машина сохранить вам жизнь ценой жизни пешехода? А если вы запрограммировали ее именно так, то какую ответственность несете?

Все это намного сложнее, чем может показаться, и вопрос о том, как принимать решения, когда речь идет о жизни и смерти, очень скоро остро встанет перед нами.

Сегодня наше законодательство намного более детально регулирует появление актера в рекламе, чем создание и продвижение на рынке бота, который изображает психолога. В подобных вопросах у нас нет ни достаточного практического опыта, ни распорядительных полномочий для введения ограничений в масштабе страны. Тем не менее технический прогресс диктует необходимость быстро вводить, изменять и даже отменять нормативные акты по мере необходимости. Из этого следует, что в вопросах прозрачности и этичности компьютерных программ нам нужен аналог Федеральной торговой комиссии, который будет проводить в жизнь соответствующее законодательство. Когда на кону миллиарды долларов, нельзя надеяться на добровольное соблюдение этических норм.

Нам придется разобраться в вопросе дронов и более общей проблеме роботов-солдат. Нужно отменить законы, предписывающие использовать дронов только в поле зрения оператора, но для начала нужно обеспечить безопасность и ввести разумные меры регулирования их движения в небе. С учетом повышенного риска, который несут эти новые изобретения, могут понадобиться лазеры для уничтожения дронов. Что касается роботов-солдат, следует подумать об их запрете международными конвенциями – так же, как были запрещены противопехотные мины. Если убрать с поля боя людей, появится опасный соблазн использовать роботов против соседних стран или собственного народа. При отсутствии запрета на них роботы-солдаты и роботы-полицейские могут представлять собой исключительную опасность для общества, намного большую, чем химическое оружие. Они – оружие массового уничтожения, и относиться к ним следует именно так.

Конечно, технологические компании предпочитают окутывать свои алгоритмы, процессы и операции завесой тайны. Но если мы и впредь хотим полагаться на такие системы и позволять горстке компаний плотно контролировать огромную часть интернета, нам следует добиться компромисса по этим вопросам.

Реформировать распространение новостей

Интернет внес огромную сумятицу в работу средств массовой информации. Местные газеты обанкротились. Общенациональные издания сперва испытывали серьезные проблемы, но постепенно вновь обретают почву под ногами. Появились новые информационные агентства. Интернет-платформы осознали, что людям интересны новости и информация, а не только спорт и развлечения. Они начали распространять их на разных платформах, дополняя контент пользователей, которые делятся новостями в социальных сетях. Однако все это происходило настолько стремительно, что мы полностью забыли о том, насколько тщательно рассматривались вопросы владения теле- и радиовещанием, когда эти технологии были новыми. Когда Facebook занялась новостями и в мгновение ока стала их крупнейшим распространителем в свободном мире, никто не проанализировал политические последствия этого шага.

Затем Facebook применила алгоритмы, призванные доносить до человека те новости, которые его интересуют в первую очередь. Так что, если вам не нравится Трамп, алгоритм будет радовать вас все новыми и новыми материалами антитрамповской направленности. Человек сам навешивает на себя ярлык и замыкается в тесном информационном мирке – об этом писалось выше.