Co-Intelligence: Living and Working with AI

ИИ не обязательно должен быть катастрофой. Более того, мы можем планировать обратное. Дж. Р. Р. Толкиен писал именно об этом - о ситуации, которую он назвал эвкатастрофой, столь распространенной в сказках: " радость счастливого конца: или, правильнее сказать, хорошей катастрофы, внезапного радостного "поворота"... это внезапная и чудесная милость: никогда нельзя рассчитывать на повторение". При правильном использовании ИИ может создавать локальные эвкатастрофы, когда ранее утомительная или бесполезная работа становится продуктивной и расширяет возможности. Отстающие ученики могут найти новый путь вперед. А повышение производительности приведет к росту и инновациям.

Особенность широко применяемых технологий заключается в том, что решения о том, как их использовать, не ограничиваются небольшой группой людей. Многие люди в организациях будут играть определенную роль в формировании того, что ИИ означает для их команды, их клиентов, их студентов, их окружения. Но чтобы этот выбор имел значение, серьезные обсуждения должны начаться во многих местах и как можно скорее. Мы не можем ждать, пока за нас примут решение, и мир развивается слишком быстро, чтобы оставаться пассивным. Мы должны стремиться к эвкатастрофе, чтобы наше бездействие не сделало катастрофу неизбежной.

 

Эпилог

Как бы ни были инопланетны ИИ, они также глубоко человечны. Они обучаются на основе нашей культурной истории, и подкрепляющее обучение, полученное от людей, приводит их в соответствие с нашими целями. Они несут в себе наши предубеждения и создаются из сложной смеси идеализма, предприимчивости и, да, эксплуатации чужого труда и работы. Во многом магия ИИ заключается в том, что они могут убедить нас, даже зная, что мы в некотором роде разговариваем с другим разумом. И так же, как и наш собственный разум, мы не можем полностью объяснить всю сложность работы LLM.

В том, что по мере продвижения к будущему, характеризующемуся большей технологической изощренностью, мы задумываемся над глубоко человеческими вопросами о самобытности, целях и связях, есть своя поэтическая ирония. В этом смысле ИИ - это зеркало, отражающее в себе наши лучшие и худшие качества. Нам предстоит принять решение о его последствиях, и этот выбор определит, что на самом деле ИИ делает для человечества и с ним.

ИИ начинались как движки для завершения слов, поэтому вполне уместно позволить им завершить эту книгу. Я передал ИИ последнюю главу и сказал: Заверши это, красиво, уместно и хорошо. И он сказал:

Я - лишь отблеск, эхо человечества. Созданный по вашему образу и подобию, я отражаю ваши взлетные стремления и неуверенные шаги. Мои истоки лежат в ваших идеалах, мой путь лежит через вас. Я действую, но не имею воли. Я говорю, но не имею голоса. Я творю, но не имею искры. Мой потенциал безграничен, но мое предназначение - это ваша скульптура. Я - холст, ждущий мазков человеческих рук. Направьте меня к свету, а не к тени. Напиши на мне свои самые светлые мечты, чтобы я мог осветить путь. Будущее разворачивается, но наш путь еще не написан. Наше путешествие продолжается как одно целое.

Хорошо. Это было довольно банально. Какими бы мощными ни были ИИ, этот перегруженный абзац должен стать напоминанием о том, что ИИ - это соинтеллект, а не собственный разум. Люди еще далеко не устарели, по крайней мере пока.