Принципы. Жизнь и работа

В то же время во многом мозг человека не в состоянии составить конкуренцию компьютеру. «Целеустремленности» компьютера можно только позавидовать: он способен работать круглые сутки семь дней в неделю. Компьютер может обработать огромный объем информации и сделать это быстрее, надежнее и объективнее, чем любой человек. Он может указать на миллион возможностей, о которых человек даже не подумает. Возможно, самое главное – у компьютера нет предубеждений и он не следует коллективной логике, его не волнует, что его рекомендации непопулярны, и он никогда не поддается панике. В тяжелые дни после 11 сентября 2001 года, когда целая страна жила только эмоциями, или на протяжении нескольких недель с 19 сентября по 10 октября 2008 года, когда индекс Доу – Джонса рухнул на 3600 пунктов, временами я был готов расцеловать наши компьютеры. Они были неизменно хладнокровны.

Взаимодействие человека и компьютера замечательно. Работа человеческого мозга с высокими технологиями обеспечивает прогресс, благодаря ему мы сделали скачок от примитивной экономики в информационный век. Именно поэтому эффективнее всех принимают решения люди, обладающие здравым смыслом, воображением и целеустремленностью, знающие, что они ценят и чего хотят, и при этом использующие компьютеры, математику и теорию игр. В Bridgewater мы используем наши системы, как водитель систему GPS: не для замены наших способностей, а для их дополнения.

5.12. Не стоит полагаться на искусственный интеллект, если у вас нет глубокого понимания процесса

Искусственный интеллект может принести больше вреда, чем пользы, если пользователь принимает причинно-следственные связи (или хуже того, руководствуется ими) в алгоритмах, созданных в результате машинного обучения, при этом их не понимая.

Прежде чем пояснить свою точку зрения, давайте определимся с терминологией. «Искусственный интеллект» и «машинное обучение» – слова, которые сегодня можно услышать повсеместно и которые часто употребляются как синонимы, хотя их значения различны. Я выделяю три обширные категории компьютерных систем принятия решений: экспертные, имитации и системы по работе с данными (это исключительно моя собственная классификация, которая не применяется в технологическом мире).

К экспертным системам относятся те, которые мы используем в Bridgewater: разработчики определяют критерии на основе своего логического понимания комплекса причинно-следственных связей, а затем анализируют, как разные сценарии проявляются в разных обстоятельствах.

Компьютеры также способны выделять закономерности и применять их в процессе принятия решений без понимания логики происходящего. Этот подход я называю имитацией. Он может быть эффективным, если одни и те же события происходят регулярно и не подвержены изменениям, например игра с четкими и незыблемыми правилами. Однако в реальном мире все течет, все меняется, а потому такая система может быстро утратить связь с действительностью.

В последние годы локомотивом развития машинного обучения стало направление по работе с данными: мощные компьютеры обрабатывают огромные массивы данных в поисках закономерностей. Этот подход набирает популярность, но может оказаться рискованным в случаях, если будущее начнет развиваться по другому сценарию, чем прошлое. Инвестиционные системы, основанные на машинном обучении, которое не сопровождается глубоким пониманием процессов, могут быть опасны, потому что, когда определенное правило принятия решения становится популярным, его начинают широко применять, а это влияет на ценообразование. Иными словами, со временем ценность информации, ставшей достоянием широкой общественности, имеет тенденцию снижаться. Без глубокого понимания вы не будете знать, действительно ли то, что произошло в прошлом, имеет ценность, а если она и была, вы не поймете, исчезла эта ценность или нет. Возможен и худший вариант. Некоторые правила принятия решений могут стать настолько популярными и так влиять на цены, что самым разумным станет делать прямо противоположное.

Не стоит забывать: компьютер не обладает здравым смыслом. Например, он легко может связать два факта, что люди просыпаются по утрам, а затем завтракают, и сделать заключение, что факт пробуждения вызывает у человека чувство голода. Я бы предпочел небольшое количество позиций (в идеале не связанных друг с другом), в которых я уверен, чем большое количество тех, в которых я не так уверен. И для меня абсолютно неприемлема ситуация, когда я не могу объяснить логику любого своего решения. Множество людей слепо полагаются на машинное обучение, потому что это проще, чем пытаться понять. Для меня глубокое понимание – обязательный момент, особенно в моей работе.