Новые темные века

В ответ на эту проблему Tri Alpha и специалисты по машинному обучению из Google придумали так называемый «алгоритм оптометриста», или «алгоритм подбора очков»(27). Алгоритм действует по тому же принципу выбора «либо-либо», представленного пациенту во время проверки зрения: что лучше – вариант один или вариант два? В проведенных Tri Alpha экспериментах тысячи возможных настроек сократили до тридцати или около того мета-параметров, которые легче понять человеку. Во время экспериментальных прогонов каждые восемь минут происходит выстрел плазмы, после которого алгоритм немного меняет настройки и делает очередной запуск. Оператор-человек сравнивает новые результаты с результатами лучшего из предыдущих выстрелов и решает, какой из них взять за основу для последующих испытаний. Таким образом, алгоритм оптометриста сочетает в себе человеческие знания и интуицию со способностью ориентироваться в многомерном пространстве решений.

Алгоритм был впервые применен Tri Alpha в эксперименте по увеличению стабильности плазмы и, следовательно, продолжительности реакции. Исследуя пространство возможных параметров, оператор-человек заметил, что в некоторых экспериментах полная энергия плазмы на короткое время внезапно увеличивалась. Эта аномалия не учитывалась автоматизированным алгоритмом, но могла бы повысить устойчивость реакции, поэтому оператор изменил настройки, чем смог продлить эксперимент и увеличить его общую энергию. Введение незапланированных параметров заложило основу совершенно нового типа испытаний, при которых лучше учитывалась непредсказуемость научных исследований.

Проводя новые эксперименты, исследователи осознали двойные преимущества сочетания человеческого и машинного интеллекта: ученые преуспели в том, чтобы интуитивно выбирать лучшие из сложных результатов, а машина подталкивала их к исследованию большего диапазона возможных входных данных, даже самых экстремальных, которые люди обычно склонны игнорировать. В конечном счете подход оптометриста к случайной выборке в сочетании с интерпретацией, выполненной человеком, может быть применен в науке к широкому кругу проблем, которые требуют понимания и оптимизации сложных систем.

Алгоритм оптометриста особенно интересен тем, что пытается примирить непрозрачность операции по решению сложных вычислительных задач с человеческими потребностями и желаниями. С одной стороны, эта проблема настолько изощренно сложна, что человеческий разум не может ее полностью постичь, но при этом компьютер способен целостно ее воспринимать и совершать все необходимые операции. С другой стороны, очевидна необходимость привнести в решение сложных проблем сугубо человеческое осознание их многозначности, непредсказуемости и парадоксальности. Это осознание само по себе парадоксально, потому что слишком часто превышает нашу способность сознательно его выразить.

Исследователи Tri Alpha называют свой подход «попыткой оптимизировать скрытую полезную модель, которую специалисты-люди, возможно, не смогут выразить явно». Они имеют в виду, что в сложности их проблемного пространства есть определенный порядок, но этот порядок превышает человеческие способности описать его. Многомерные пространства конструкции термоядерного реактора – и закодированные представления нейронных сетей, которые мы исследуем в следующей главе, – несомненно, существуют, только их невозможно визуализировать. Хотя эти технологии открывают возможность эффективной работы с такими неописуемыми системами, они также требуют от нас признания того, что эти системы вообще существуют – и не только в области фармакологических и физических наук, но и в вопросах морали и справедливости. Требуется четкое осмысление того, что значит постоянно жить среди сложных и взаимосвязанных систем в состоянии непреодолимого сомнения и неуверенности.

Признание неописуемого, иными словами, признание того, что способность человеческого разума к концептуализации имеет пределы, – один из аспектов новой Темной эры. Но не все проблемы в науке можно преодолеть даже с помощью вычислений, какими бы привлекательными они ни были. По мере усложнения решений все более сложных проблем мы рискуем упустить из виду еще более серьезные системные проблемы. Подобно тому, как ускоряющийся по закону Мура прогресс пустил развитие вычислений по определенному пути, предполагающему конкретную архитектуру и оборудование, так и выбор этих инструментов четко обуславливает не только то, как мы подойдем к проблемам, с которыми нам предстоит столкнуться, но и то, что мы о них подумаем.