Google, OpenAI, Стэнфорд и Беркли сотрудничают для определения таких проблем и выработки рекомендаций по их решению. Google объединился с другими разработчиками ИИ, чтобы обдумать такие проблемы, как непреднамеренные негативные побочные эффекты, тщательный надзор за устройством и другие.
Разбитые вазы – это одно, но владелец Tesla Илон Маск поднял более серьезные опасения по поводу исследования ИИ в Google. В 2015 году цитата из автобиографии Маска попала в новости. Маск задался вопросом «а что, если Google случайно создаст нечто злое?». В частности, Маск был обеспокоен тем, что роботы с улучшенным искусственным интеллектом способны восстать против человечества. Таким образом, он стал соучредителем некоммерческой компании OpenAI, которая сосредоточивается на безопасности ИИ. И он рассказывает об этих проблемах по всему миру.
Маск не единственный, кто забил тревогу. Стивен Хокинг и Билл Гейтс также были обеспокоены.
Google и подразделение DeepMind создали совет по этике ИИ, чтобы противостоять более серьезным проблемам безопасности, включая разговоры о так называемой «красной кнопке», своего рода аварийном выключателе.
Тем не менее другие технологические лидеры, включая Эрика Шмидта, нарекли эти идеи конца света научной фантастикой. Одно можно сказать наверняка, споры по этому вопросу исчезнут не скоро.
Глава 17. Отправьте автомобили
Представь Ларри Пейджа во время учебы в колледже где-то в середине холодной мичиганской зимы, ждущего автобус. Он стоит расстроенный у автобусной остановки перед кампусом и не знает, что ему делать во время этого бесполезного ожидания… он все ждет… ждет и ждет автобуса. Как много часов работы и продуктивных исследований было потеряно всем кампусом из-за ожидания автобуса? Наверняка был способ получше, думал он. В конечном итоге ему пришла мысль построить в колледже монорельс, а из нее родилась одержимость Ларри транспортом. Когда он узнал об автоматизированных автомобилях, он был очарован и досконально изучил их.
В 2009 году лаборатория X Google начала пытаться решать эту проблему. И речь идет не только о проблеме бесполезности, а обо всех проблемах, возникающих из-за того, что люди водят автомобили.
Такие проблемы, как автомобильные аварии, виной которых стала человеческая ошибка. И еще проблема того, сколько твоя машина простаивает без дела.
Более 35 000 человек ежегодно умирают в автомобильных авариях в Соединенных Штатах. По данным Waymo, 94 % этих несчастных случаев произошли из-за человеческой ошибки.
Если у тебя есть машина, сколько ты проводишь в ней времени? Где она стоит, когда ты ею не пользуешься? В гараже? На парковке? На обочине? Ничего не делает? Не помогает тебе или кому-то еще?
И еще есть проблема, касающаяся окружающей среды.
«В большинстве городов набольшая доля земли (от тридцати до пятидесяти процентов) приходится на парковку, на которую тратятся колоссальные суммы, – объясняет Сергей. – Да и дороги перегружены и занимают много места. Но с беспилотными автомобилями тебе не требуется много места на парковке, потому что не нужно иметь один автомобиль на человека. Они просто появляются тогда, когда ты в них нуждаешься».
Потребовались миллионы километров тестов, чтобы подготовить технологию к реальным улицам с реальными переменными. Но в процессе Ларри ехал на одной из машин.
«Удивительно ездить на такой машине, – сказал он. – Это почти что опыт, меняющий твою жизнь». Он не единственный, у кого была такая реакция.
Примерно через шесть лет после того, как Google начал двигаться в этом направлении, команда вошла в историю. Их автомобиль совершил первую полностью самостоятельную поездку на людных улицах. И ему удалось! Они сделали это без педалей, рулевого колеса и – вдохни поглубже – даже без тест-драйва. Зато в автомобиле был пассажир, человек по имени Стивен Мэйен, главный операционный директор Santa Clara Valley Blind Center.
«Для меня это очень сокровенный момент – сидеть в машине в одиночку», – говорит он о поездке. Сокровенный, потому что Стив практически слеп. «Очень важная часть моей жизни стала для меня недоступна, когда мое зрение подвело», – делится он.
Его рассказ подчеркивает еще одно достижение этого проекта – транспортировка людей, которые в силу различных возможностей не могут просто сесть в машину и отправиться куда хотят.
После этой знаменательной пробной поездки проект беспилотного автомобиля Google вырос из лаборатории X и стал самостоятельной компанией, Waymo.