Сдвиг. Как выжить в стремительном будущем

Но хотя AlphaGo — очень толковое и креативное создание, она может победить вас только в го — никак не в шашки. Весь универсум ее выражений и видений ограничивается доской 19 на 19 и черными с белыми камешками. Понадобится совершить немало технологических прорывов, прежде чем AlphaGo станет интересно посещать ночные клубы или управлять офисом. На самом деле мы, возможно, никогда не получим машины, которая все это будет делать. Но при этом пройдет, может, не так много времени, прежде чем нечто наподобие AlphaGo сумеет принимать решения об условно-досрочном освобождении из мест заключения, устанавливать сумму залога, водить аэропланы или учить наших детей.

По мере прогресса искусственного интеллекта машины вполне могут интегрироваться с нашими телами, домами или средствами передвижения, рынками и судебными системами, творческими предприятиями и политикой. Мы, люди как общество, уже намного разумнее, чем как отдельные его представители. Мы часть коллективного разума. Продолжая интегрироваться с нашими сетями и нашим обществом, машины становятся «расширениями» нашего разума, творя вместе с нами единый расширенный интеллект.

Кое-кто из сингулярщиков (нет, честно, худшее из названий любого культа всех времен и народов!) считает, что еще немного — и искусственный интеллект окажется вполне способен оставить без работы множество людей. Может, это и так, особенно если смотреть на вещи в краткосрочной перспективе. Другие, однако, возражают, что рост производительности позволит обеспечить людям, которых вытеснили машины, постоянный базовый доход. В то же время многих беспокоит другая сторона проблемы: работа дает нам чувство собственного достоинства, социальный статус и стабильность, а значит, нужно уделять больше внимания тому, как мы будем себя развлекать и что станет предметом нашего самовыражения (возможно, это будут научные или творческие проекты), чем простому обеспечению средств к существованию.

Также следует задаться вопросом о том, как люди и машины сумеют работать вместе и как обеспечить, чтобы искусственные разумы, живущие с нами бок о бок, разделяли наши ценности и наши морально-этические принципы даже по мере их эволюционирования. Существует один многообещающий подход, который Ияд Рахван, руководитель группы «Масштабируемое сотрудничество» в Media Lab, именует машинным обучением, — «общество в контуре управления». Этот подход предусматривает использование социальных норм в тренировке и контроле искусственного интеллекта, при этом формируется система коэволюции людей и машин[384].

В 2016 году Министерство обороны США выделило 3,6 миллиарда долларов на разработки в области искусственного интеллекта. И все же исследователи искусственного интеллекта как в научных, так и в промышленных кругах призывали и призывают к созданию мира будущего, в котором машины и люди, которые их обучают, будут наравне с общественностью участвовать в открытых дискуссиях. Вопрос стоит так: не являемся ли мы свидетелями соперничества между попытками открытого общества создать ОИИ и засекреченными в военных лабораториях разработками, нацеленными на тот же результат? Или же золотой век открытых исследований искусственного интеллекта медленно движется к завершению, пока частные компании, яростно конкурируя друг с другом, все ближе и ближе подходят к «ответу»?

Результат, который станет известен примерно в течение десятилетия, вполне сможет вызвать в масштабах всего мира эффект, превосходящий все, что обсуждалось в этой книге. Но что бы ни произошло, сингулярщики правы в одном. Не только технологии как таковые, но и сами изменения начинают развиваться с экспоненциальным ускорением. Изменения — это продукт технологии, но также и продукт перспективного развития других областей. За последние 25 лет мы перешли из мира, в котором доминировали простые системы, в мир, разгороженный на части и захваченный системами сложными. Во введении мы попытались дать разъяснения насчет факторов, лежащих в основе этого смещения. Это, соответственно, сложность, асимметрия и, наконец, непредсказуемость. А теперь мы сформулируем в обобщенном виде свою цель, которая не менее амбициозна, чем создание пользовательского руководства по жизни в XXI веке:

«Создать организации, в основу которых будут положены принципы устойчивости, подвижности и необходимости справляться с провалом образовательной системы».

* * *