Совместимость. Как контролировать искусственный интеллект

Появление всемирной сети интернет в 1990-х гг. открыло целую вселенную для интеллектуальных машин. Появилось новое слово, softbot, обозначающее программных «роботов», действующих целиком и полностью в программной среде, такой как интернет. Предметом восприятия «софтботов», которых впоследствии стали называть просто ботами, являются интернет-страницы, их действия — выдача последовательностей символов, интернет-адресов и т. д.

Во время бума «доткомов» (1997−2000 гг.) компании — разработчики ИИ множились как грибы после дождя, создавая средства поиска и электронной торговли, в том числе анализ соединений, системы рекомендаций, системы репутаций, службы сравнения цен и категоризацию товаров.

В начале 2000-х гг. повсеместное распространение мобильных телефонов с микрофонами, камерами, акселерометрами и GPS впервые дало людям доступ к ИИ-системам в повседневной жизни; «умные колонки», например Amazon Echo, Google Home и Apple HomePod, продолжили этот процесс.

Около 2008 г. количество объектов, подключенных к интернету, превысило число людей, имеющих к нему доступ, — некоторые называют этот переход началом Интернета вещей (IoT). В число этих «вещей» входят автомобили, бытовые приборы, уличные светильники, торговые автоматы, термостаты, квадрокоптеры, видеокамеры, датчики состояния окружающей среды, роботы и всевозможные материальные предметы, как в процессе производства, так и в системах дистрибуции и розничной торговли. Это значительно увеличивает доступ ИИ-систем к сенсорным и управляющим сигналам реального мира.

Наконец, совершенствование восприятия позволило роботам с ИИ выйти за пределы фабрик, где они зависели от жестко ограниченного расположения объектов, в реальный, неструктурированный, хаотичный мир, где их камерам есть на что посмотреть.

Самоуправляющиеся автомобили

В конце 1950-х гг. Джон Маккарти мечтал, что однажды его доставит в аэропорт автоматизированное транспортное средство. В 1987 г. Эрнст Дикманнс продемонстрировал фургон «мерседес» с автопилотом на автобане в Германии; он был способен держать ряд, следовать за другой машиной, перестраиваться и совершать обгон[85]. Через 30 с лишним лет у нас все еще нет полностью автономного автомобиля, но мы к нему намного ближе. Центр разработки давно переместился из научно-исследовательских лабораторий в крупные корпорации. На 2019 г. лучшие тестовые автомобили «намотали» миллионы километров езды по общественным дорогам (и миллиарды километров в дорожных симуляторах) без серьезных инцидентов[86]. К сожалению, некоторые автономные и полуавтономные транспортные средства убили несколько человек[87].

Почему потребовалось так много времени для достижения безопасной автономной езды? Во-первых, из-за очень высоких требований к результативности. Водители в Соединенных Штатах попадают примерно в одну аварию с человеческими жертвами на 160 млн км пути, что высоко поднимает планку. Чтобы автономные транспортные средства были приняты в эксплуатацию, они должны показывать намного лучшие результаты: скажем, одна авария со смертельным исходом на 1 млрд км, или 25 000 лет безаварийной езды по 40 часов в неделю. Вторая причина заключается в том, что предполагаемый обходной вариант — передача управления человеку, если машина дезориентирована или выходит за рамки безопасных условий эксплуатации, — попросту не работает. Когда машина едет сама, люди отвлекаются от дорожной ситуации и не могут включиться в нее достаточно быстро, чтобы успеть взять управление на себя. Более того, попутчики и пассажиры такси на заднем сиденье вообще не имеют возможности подключиться к управлению машиной, если что-то пошло не так.