Век опасности. Обеспечение безопасности Америки в эпоху новых сверхдержав, нового оружия и новых угроз

Шмидт продолжил: "Каков будет характер доступа к этому компьютеру? Потому что с таким компьютером вы можете сказать: "Я хочу знать, я хочу, чтобы вы изобрели способ убить миллион людей, которые не принадлежат к моей расе". Хорошо, и вы говорите: "Ну, очевидно, что вам следует сделать то, что вы должны иметь переднюю часть, которая не позволяет делать такие запросы". Хорошо, тогда мы запретим этот запрос. Хорошо. Но поскольку это общая разговорная система, средний человек может продолжать пытаться, пока не добьется того, чтобы она действительно поняла, чего он хочет, и тогда она это сделает".

Продолжайте спрашивать, пока компьютер не ответит, независимо от того, как он был разработан. Похоже, это еще один вопрос человеческой ошибки, а не ошибки компьютера.

"Таким образом, проблема распространения выглядит следующим образом. Вы должны выяснить, как не допустить попадания этого потенциала в руки плохих людей, а также сдерживать его использование плохим управлением. Итак, предположим, например, что Северная Корея крадет китайскую ракету, что она делает с помощью какого-то относительно простого механизма. Им удалось доставить его в Северную Корею, они сумели включить его, и теперь они заняты тем, что пытаются его использовать. Какова же архитектура сдерживания, чтобы не дать им его включить? Эти вопросы совершенно не изучены".

В некотором смысле Шмидт воспроизводит первые годы ядерной эры, но он хочет сделать это с гораздо большей продуманностью. Прошло почти десять лет ядерной эры, прежде чем возникла дисциплина ядерного сдерживания, прежде чем у нас появились такие термины, как "стабильность второго удара" и MAD, прежде чем "Доктор Стрейнджлав" стал частью лексикона.

Шмидт видит потенциально пугающее будущее, и он хочет сделать тяжелую работу сейчас, пока мы не сорвались в пропасть. Люди достаточно коварны. Шмидт не стремится отдать компьютеры на волю самых мрачных человеческих мыслей.

"Они более мощные, у них больше данных, они могут начать делать вещи, которые мы еще не придумали, как предотвратить".

Шмидт посылает предупреждение. Машина не готова к машине.

Эрик Шмидт - не единственный человек, посылающий предупреждение. В 2018 году Кай-Фу Ли написал книгу под названием "Сверхспособности ИИ". Ли вырос на Тайване и имеет глубокие корни в технологической индустрии и Кремниевой долине. Он возглавлял Google China, пока Google не решил уйти из Китая. Он написал книгу "Сверхспособности ИИ", чтобы озвучить свое собственное предупреждение, и это предупреждение - страшное. Он не оспаривает мнение Шмидта о состоянии ИИ в современном мире - что мы видим только 10 процентов потенциала - но он считает, что Китай дает особые преимущества в конкурентной борьбе.

Ли сравнивает ИИ с первыми днями появления электричества. Как только Эдисон завладел электричеством, невозможно было сказать, как оно изменит современную жизнь. Принести свет во тьму - это одно. Дать энергию машинам - совсем другое. В первые дни появления электричества Эдисон еще не знал, что оно будет использоваться для охлаждения продуктов, стирки и сушки одежды, перемещения людей с земли на вершины самых высоких зданий в мире, перемещения людей по городам на поездах, регулирования дорожного движения и, в конечном счете, для обеспечения энергией человеческого мышления.

Далее он переходит к обсуждению более широкого состояния игры в мире, который он называет "глубоким обучением". Вначале он отмечает, что когда-то это было явным преимуществом США. Большие идеи в мире ИИ исходили из США и Канады. Это было в то время, которое он называет периодом открытий. Но далее он говорит, что мы больше не находимся в периоде открытий. Сейчас мы находимся в периоде внедрения. "В эпоху открытий прогресс двигала горстка элитных мыслителей, практически все из которых были сосредоточены в США и Канаде. Их исследовательская проницательность и уникальные интеллектуальные инновации привели к внезапному и монументальному росту того, что могут делать компьютеры".

Но теперь мы знаем, на что способны компьютеры, и в этой области произошел сдвиг. "Сегодня для успешной работы алгоритмов ИИ необходимы три вещи: большие данные, вычислительная мощность и работа сильных, но не обязательно элитных, инженеров по алгоритмам ИИ". В каждой из этих трех областей, по его мнению, Китай имеет явное преимущество. В предыдущих технологических революциях преимущество получали изобретатели - первые, кто обладал навыками и ноу-хау и применял их на практике. Ли не видит такого преимущества в этой революции. Он с явным весельем отмечает: "Когда его спрашивают, насколько Китай отстает от Кремниевой долины в области исследований искусственного интеллекта, некоторые китайские предприниматели в шутку отвечают "шестнадцать часов" - разница во времени между Калифорнией и Пекином".