Думай медленно – предсказывай точно. Искусство и наука предвидеть опасность

Я поговорил об этом с главным инженером Watson Дэвидом Феруччи. У меня не было сомнений, что Watson без проблем выдаст ответ на вопрос о настоящем и будущем – например, «Как зовут двух российских политических лидеров, которые обменялись должностями за последние десять лет?», – однако мне хотелось узнать мнение Дэвида о том, сколько времени пройдет, прежде чем Watson или кто-то из его цифровых потомков сможет ответить на вопрос «Обменяются ли два российских политических лидера должностями в ближайшие десять лет?».

В 1965 году эрудит Герберт Саймон считал, что всего через двадцать лет наступит эпоха, когда машины смогут делать «любую работу, которую могут делать люди». Но тогда вообще часто высказывали подобные наивно-оптимистические мысли, и это одна из причин, по которой Феруччи, работающий в области искусственного интеллекта уже тридцать лет, более осторожен в подобных оценках[14]. Он отметил, что компьютерная наука гигантскими шагами движется вперед и способность машин отслеживать тенденции заметно растет. А их обучение, в сочетании с растущим взаимодействием «человек – машина», которое подпитывает учебный процесс, обещает еще более впечатляющий прогресс в будущем. «Это одна из экспоненциальных кривых, и мы сейчас все еще находимся у ее основания», – сказал Феруччи.

Но все-таки есть огромная разница между вопросом «Как зовут двух российских политических лидеров, которые обменялись должностями за последние десять лет?» и вопросом «Обменяются ли два российских политических лидера должностями в ближайшие десять лет?». Первый вопрос – исторический факт, компьютер может его найти. Второй требует от компьютера высказать обоснованные предположения относительно намерений Владимира Путина, характера Дмитрия Медведева и динамики российской политики, а затем объединить эту информацию в личное мнение. Люди проводят подобный анализ постоянно, но это далеко не просто. Человеческий мозг – удивительный инструмент, раз способен выполнять такие невероятно сложные задания. Даже если учитывать стремительный прогресс компьютеров, они еще не скоро освоят тот тип предсказаний, которым занимаются суперпрогнозисты. И Феруччи вообще не уверен, что мы когда-нибудь увидим под стеклом в Смитсоновском институте человеческую особь с табличкой «субъективное суждение».

Машинам все лучше удается «подражать человеческому мнению» и, соответственно, предсказывать поведение, но «между подражанием мнению и его осмыслением, а также выработкой собственного есть разница», говорит Феруччи. Эта ниша всегда будет занята человеческим суждением. В прогнозировании, как и в других областях, мы будем наблюдать, как от человеческого суждения постепенно отказываются, к отчаянию белых воротничков, но будем встречать и все больше случаев синтеза – как, например, в «шахматах свободным стилем», когда люди и компьютеры соревнуются командами. Люди будут пользоваться несомненной силой компьютеров – но периодически их обыгрывать. В результате должна получиться комбинация, которая может (иногда) превосходить как людей, так и машины. Переосмысляя дихотомию «человек против машины», можно сказать, что комбинация Гарри Каспарова и компьютера Deep Blue может оказаться более плодотворной, чем исключительно человеческий или исключительно компьютерный подходы. Феруччи считает, что если что-то и устареет, то это гуру-модель, которая многие политические дебаты превращает в возню в песочнице: «Я противопоставляю вашим аргументам Пола Кругмана мои контраргументы Ниала Фергюсона и атакую вашу статью Тома Фридмана моим блогом Брета Стивенса». Но он видит свет в конце этого длинного темного тоннеля. Феруччи считает, что будет все более странным следовать советам людей, которые не основываются ни на чем, кроме собственного мнения. Человеческая мысль окружена психологическими западнями – факт, который начали широко признавать только последние пару десятилетий, – «поэтому я хочу, чтобы эксперт-человек работал в паре с компьютером, преодолевая человеческие когнитивные ограничения и предрассудки»[15]. Если Феруччи прав – а я думаю, так и есть, – нам нужно будет объединить компьютеризированное прогнозирование с субъективными суждениями. Поэтому настало время отнестись серьезно и к тому, и к другому.

Глава II Иллюзии знания

Увидев пятна на тыльной стороне ладони пациента, дерматолог заподозрил неладное и взял на анализ участок кожи. Цитолог подтвердил базально-клеточную карциному. Пациент в панику не ударился: он сам был врачом и знал, что эта форма рака редко распространяется за пределы новообразования. Карциному удалили. Перестраховываясь, пациент записался на прием к знаменитому онкологу.

Тот обнаружил в правой подмышке пациента узелок. Как давно он там появился? Пациент не знал. Онколог заявил, что узелок нужно удалить; пациент согласился. В конце концов, онколог был опытным, и если он сказал: «Вырезать!», кто же будет спорить? Была назначена операция.