Новые темные века

В продвинутых шахматах игрок-человек и компьютерная шахматная программа выступают в одной команде против другой пары человек – компьютер. Адванс произвела революцию в шахматах, открыла невиданные ранее области и стратегии игры. В первую очередь, удалось избавиться от риска совершить грубую ошибку, так как компьютер анализирует любое предположение, прежде чем шахматист сделает ход. В итоге возможно выстроить игру с идеальной тактикой и проработанной стратегией.

Обычно в адванс играют пары человек – машина, но, пожалуй, самые ошеломительные результаты случаются, когда человек и машина играют против одной машины. Со времен «Deep Blue» было разработано множество компьютерных программ, которые могут легко и эффективно победить любого человека. Более того, из-за увеличения объема памяти и вычислительной мощности для того, чтобы одолеть человека, достаточно обычного, а не суперкомпьютера. Но даже самая мощная современная программа проиграет опытному игроку, если у того будет доступ к своему собственному компьютеру, даже если компьютер-противник на порядок мощнее компьютера-помощника. Сотрудничество между человеком и машиной оказывается более действенной стратегией, чем наращивание вычислительной мощности.

В этом случае к играм применяется алгоритм оптометриста – в каждой отдельной ситуации для достижения наилучшего результата соответствующие навыки людей и машин не противопоставляются друг другу, а складываются вместе. Сотрудничество также снижает вычислительную непрозрачность; благодаря совместной игре мы моментально, а не постфактум, можем получить более глубокое понимание того, как сложные машины принимают решения. Признание реальности нечеловеческого интеллекта влечет глубокие последствия для того, как мы действуем в мире, и требует четкого осмысления нашего собственного поведения, возможностей и ограничений. Хотя во многих дисциплинах машинный интеллект быстро опережает человеческие возможности, это не единственный способ мышления, и во многих областях он является катастрофически разрушительным. Любая стратегия, кроме осознанного, вдумчивого сотрудничества, – это форма отчуждения, то есть заведомо проигрышный подход. Мы не можем вычеркнуть современные технологии и должны уживаться с ними, как с соседями. Все мы связаны. Сегодня этика сотрудничества не должна ограничиваться машинами, а распространяться на все живое и неживое. Это еще одна форма ответственного планирования и управления, основанная на всеобщем равенстве, к которой мы должны прийти не в непознаваемом, туманном будущем, а здесь и сейчас.

Глава 7 Сопричастность

В преддверии Лондонских Олимпийских игр 2012 года Британия помешалась на безопасности. Были сделаны предупреждения о том, что игры могут стать объектом террористической атаки; тех, кто потенциально представлял угрозу, превентивно задержали. В штаб-квартире британской контрразведки МИ-5 в Воксхолле установили таймер обратного отсчета до церемонии открытия(1). В Темзе пришвартовался самый большой корабль Королевского флота «HMS Ocean» с отрядом морских пехотинцев на борту. Армия установила ракеты «Рапира» класса «земля-воздух» на высотных зданиях вокруг мест проведения соревнований (операция, как позднее выяснилось, была продуманной и успешной демонстрацией военной мощи для иностранных правительств). Столичная полиция объявила, что для наблюдения за городом задействует дроны(2).

Последний пункт меня заинтересовал. В течение многих лет я следил за эволюцией беспилотных летательных аппаратов, дронов, – от секретных армейских разработок до обыденных военных приспособлений, а в гражданской сфере – от высококлассных платформ наблюдения до дешевых рождественских игрушек. Вот только британской полиции с дронами не везло. Полиция Эссекса, которая первой приобрела беспилотники, законсервировала программу еще в 2010 году. Тогда же выяснилось, что полиция Мерсисайда совершала полеты на дроне без лицензии Управления гражданской авиации. В 2011 году она получила новую лицензию, но дрон потерпел крушение где-то над рекой Мерси, и его решили не заменять(3).