Теории всего на свете

ТД-обучение решает проблему отыскания кратчайшего пути к цели. Этот алгоритм действует в реальном времени, поскольку обучение происходит посредством непрерывного исследования и посредством выявления ценности промежуточных решений на пути к цели. При этом создается некая «функция внутренней ценности», которую можно использовать для предсказания последствий действий. Допаминовые нейроны оценивают текущее состояние всей коры в целом и сообщают мозгу, каков оптимальный план действий, исходя из текущего состояния. Во многих случаях оптимальным вариантом является догадка, но поскольку эффективность догадок можно улучшать, ТД-обучение со временем вырабатывает функцию ценности прогностических возможностей. Допамин служит источником «нутряного предчувствия», которое у нас иногда бывает: из этого вещества и делается интуиция.

Когда вы рассматриваете различные варианты действий, мозговые цепочки оценивают каждый сценарий, и прогнозируемая ценность каждого решения оценивается по промежуточному содержанию допамина для каждого случая. Уровень допамина связан также с уровнем мотивации, так что высокое содержание допамина не только указывает на высокий уровень ожидаемого вознаграждения, но и подразумевает, что вам потребуется более высокий уровень мотивации, чтобы достигнуть цели. С двигательной системой в буквальном смысле то же самое: более высокий уровень допаминового тонуса обеспечивает более быстрые движения. Кокаин и амфетамины вызывают такое сильное привыкание именно вследствие повышения допаминовой активности при их приеме: они словно взламывают внутреннюю мотивационную систему мозга. Снижение содержания допамина в организме приводит к агедонии – неспособности испытывать удовольствие. Утрата допаминовых нейронов ведет к развитию болезни Паркинсона – неспособности самостоятельно действовать и мыслить.

ТД-обучение обладает такой высокой эффективностью, поскольку позволяет объединять ценностную информацию множества разных аспектов – к примеру, сравнивая яблоки и апельсины. Оно играет такую важную роль, ибо рациональное принятие решений бывает весьма затруднительным, когда мы имеем дело с большим количеством переменных параметров и неизвестных величин. Обладание внутренней системой, умеющей быстро снабжать нас удачными догадками, несет в себе громадные преимущества и может даже спасти нам жизнь в тех случаях, когда срочно требуется решение. ТД-обучение зависит от нашего жизненного опыта, от былых переживаний. Оно извлекает самое существенное из этого опыта даже спустя долгое время после того, как отдельные подробности уже забылись.

ТД-обучение также дает объяснение многим экспериментам, которые ставили психологи, обучая крыс и голубей выполнять несложные задания. Алгоритмы психологического подкрепления при обучении считаются слишком слабыми для объяснения сложных моделей поведения, поскольку при этом обратная связь со стороны среды минимальна. Тем не менее обучение методом подкрепления распространено почти у всех видов и играет важнейшую роль в возникновении самых сложных форм сенсорно-моторной координации – таких, например, как игра на фортепиано или речь. Обучение методом подкрепления оттачивалось сотнями миллионов лет эволюции.

Насколько сложную проблему можно решить с помощью ТД-обучения? «TD-Gammon» – компьютерная программа, которая учится играть в нарды, просто сражаясь сама с собой. Трудность такого подхода в том, что награда приходит лишь в конце партии, так что неясно, какие именно ходы были хорошими и привели к победе. Вначале программа ничего не знает об игре кроме правил. Играя сама с собой много раз и применяя алгоритмы ТД-обучения, программа постепенно поднимается от уровня новичка к уровню опытного игрока, попутно придумывая и запоминая хитроумные стратегии, похожие на те, что используются игроками-людьми. Сыграв сама с собой миллион раз, программа достигла чемпионского уровня и открыла новый метод позиционной игры, изумивший специалистов-людей. Такие же принципы, примененные к игре го, позволили компьютерам достичь впечатляющего мастерства; не за горами их выступление на профессиональном уровне.