10 заповедей нестабильности

Разработанный Форрестером тренажер сначала не получил широкого признания, но начатое им усложнение аппаратуры и оборудования со временем развилось в серьезное направление техники, позволившее позднее автоматизировать системы противовоздушной обороны, организовать управление посадкой космических кораблей на Луну и Марс и т. п., не говоря уже об автоматизации обработки банковской информации, оплаты телефонных счетов и даже организации увеселительных мероприятий и вечеринок. Основные принципы управления этими разнообразными системи и процессами остались прежними, а изменилось только техническое оснащение. В наши дни производство микроэлектронных устройств стало настолько важной и неотъемлемой частью национальной экономики, что многие американцы вкладывают в акции высокотехнологических компаний свои сбережения и пенсии. Однако не стоит забывать, что все эти сверхминиатюрные чипы и устройства, в сущности, всего лишь быстрее и эффективнее перерабатывают информацию по очень старым принципам, разработанным еще в 40-х годах для первых вычислительных машин с их громоздкими, хрупкими и постоянно перегревающимися электронными лампами.

Однако технический прогресс и практическое применение вычислительных машин в различных областях не давали ответа на основополагающие вопросы, продолжавшие мучить разработчиков. Стали компьютеры действительно «умными» (как постоянно уверяют нас рекламные клипы) или мы просто сделали их более удобными, разносторонними и перестраиваемыми? Можем ли мы четко различить эти понятия? Каковы критерии разумности?

***

Огромное значение для развития компьютеров имели работы английского математика Алана Тьюринга. Во время Второй мировой войны он стал национальным героем и внес существенный вклад в победу над фашизмом, сумев создать дешифратор и «взломать» коды знаменитой немецкой шифровальной машины Энигма, что давало союзникам стратегическое преимущество в разработке военных операций. Однако не менее важным достижением Тьюринга следует считать предложенный им еще в 1936 г. проект вычислительного устройства (так называемой универсальной машины Тьюринга), на концептуальной основе которого до сих пор работают все современные цифровые компьютеры (к сожалению, он умер в 1954 г., так и не увидев свое детище воплощенным в реально действующее электронное устройство).

Среди прочих идей Тьюринга необходимо выделить знаменитую «задачу остановки», невольно заставляющую вспомнить о теоремах Гёделя. Тьюринг сумел строго доказать, что существуют вычислительные процедуры, когда невозможно предсказать момент «остановки» машины, соответствующий завершению работы заложенной в нее программы. В некоторых случаях машина в поисках решения будет продолжать вычисления бесконечно долго, но невозможно также создать контрольную программу, позволяющую проверить все остальные программы и выяснить, какая из них должна «остановиться».

Тьюринг был совершенно уверен, что проектируемые им устройства быстро станут «сообразительными», и в 1950 г. предложил мысленный эксперимент для определения «разумности» ЭВМ, получивший широкую известность и название «теста Тьюринга». В процедуре испытания (которое может быть названо «игрой в имитацию») используется компьютер, но читатель легко может представить и даже провести его, пользуясь уже привычной многим электронной почтой (e-mail). Подумайте над тем, каким образом вы, собственно, можете определить, что ваш собеседник на чате является человеком? Почему вы считаете, что полученное по электронной почте сообщение прислано человеком, а не автоматическим устройством? В сущности, мы решаем этот вопрос для себя в процессе диалога, полагая, что разумность и уместность ответных писем являются прямым свидетельством разумности собеседника и доказательством его человеческой природы. Именно такое, чисто человеческое испытание и предложил Тьюринг – машину следует считать «мыслящей», если она может адекватно отвечать на вопросы и вести заочную беседу, обманывая собеседника-человека. Иными словами, чтобы машина могла общаться с человеком, она должна научиться «думать» на уровне человека.