Страна Качества 2.0

– …что невозможно сделать сколько-нибудь значимый прогноз на последующий период времени. Потому что все изменится самым непостижимым образом. Ты понимаешь? Появление этой сингулярности переносилось ее пророками, в том числе и Курцвайлем, на будущее столь же часто, как и приход мессии.

– И в чем же состоит шутка?

– Шутка такова: чтобы постоянно не корригировать свои прогнозы, Международное общество по информационным технологиям, кстати, сокращенно IGIT (Gesellschaft für Informationstechnologie), предложило ввести новую гибкую единицу времени – курцвайль. И кульминационный момент в том, что сингулярность в будущем – это всегда ровно один курцвайль.

– Я не нахожу в этом ничего особенно смешного, – говорит Петер.

– Это из-за того, что я должен был объяснить тебе шутку, – говорит Старик. – Я считаю ее очень веселой.

– Вы сами выдумали эту шутку?

– К сожалению, нет. Ее только что выдала машина для шуток.

– Машина для шуток?

– Гм, гм. С чего начать? Ты знаешь, как работает машинное обучение? – спрашивает Старик. – Deep Learning (англ. – глубокое изучение) в частности?

– Так, в общих чертах.

– Если раньше нужно было чему-то обучить компьютер, скажем, французскому языку, то приходилось программировать его со всем запасом слов, и с грамматическими правилами, и, конечно, со всеми неправильными глаголами. Очень утомительный процесс. Любой старшеклассник может тебе это подтвердить. И тем не менее результаты были очень скромными.

– Как в старших классах вообще, – говорит Петер.

– Да, но если ты сегодня захочешь обучить компьютер французскому…

– …тогда ты просто дашь проглотить ему целую библиотеку французских текстов, включая их переводы, и скажешь: «Остальное ты узнаешь сам».

– Верно. И так они поступают в отношении всего. Если они объясняют машине, как выглядит кошка, то они не говорят: «Это животное, у него есть острые ушки, хвост, и у него всегда надменный взгляд». Нет. Они просто берут пару миллионов фотографий кошек…

– …благодаря социальным сетям в этом, к счастью, нет недостатка…

– …и они говорят: «Это кошки. Узнайте сами, что такое кошка».

– И что?

– В прежней жизни, – говорит Старик, – я был, как бы это сказать, комиком.

– Это кое-что объясняет.

– Многие из моих бывших коллег ушли в политику, потому что у этой профессии была плохая репутация. Во всяком случае, когда-то я пережил небольшой творческий кризис, так как условия стали такими абсурдными, что их едва ли можно было переоценить. В этой ситуации у меня появилась блестящая – как мне тогда казалось – идея соорудить машину для шуток. Я взял нейронную сеть и напичкал ее всеми шутками, которые только смог найти в Сети. Вскоре у меня была машина, которая сразу фиксировала, если попадалось что-то веселое. Но я хотел машину, которая сама выдумывала бы шутки. Конечно, не просто любые шутки, а отличные шутки. А теперь будет интересно.

– Я уж потерял надежду.

– Вернемся к кошкам, – говорит Старик. – Когда компьютеры учили через DeepLearning распознавать кошек, несколько находчивых исследователей пришли к забавной идее превратить компьютер в художника и заставить его рисовать кошек на базе его вновь полученных знаний, и результат был просто удивительным.

Старик указывает на картину на своей стене. Черные и белые, казалось бы, бессмысленно распределенные пиксели. Под картиной рукой Старика было написано: «Сe n’est pas un chat» (фр. – Это не кошка).

– Но ведь это не кошка, – говорит Петер.

– Да, разочарованные исследователи тоже так подумали, – соглашается Старик. – Но сейчас наступает кульминационный момент: когда они представили этот пиксельный хаос своей программе распознавания образов, она назвала то, что видела, с 99-процентной вероятностью кошкой. Более того, они также передали пиксельный хаос в другие программы распознавания образов, которые не имели никакого отношения к разработке, и что же? Машины единодушно признали, что на этой фотографии изображена кошка.

– Бред какой-то.

– Проблема заключается не в том, что программа совершает ошибку. Не в том, что она, возможно, перепутала лису с кошкой. Такое может случиться и с человеком.

– Проблема в том, что ошибка, когда пиксельный хаос принимают за кошку, для нас необъяснима, – говорит Петер.

– Верно.

– И вы сказали машине, что она сама должна придумывать шутки?

Старик кивает:

– Разумеется, многие из шуток были расистскими и в еще большей степени – сексистскими. Этого вряд ли можно было избежать на основании имеющихся данных. Но подавляющее большинство шуток было просто… очень, очень странным. – Старик поскреб нос. – Я, конечно, кое-что изменил. Я сказал машине шуток, что она не должна постоянно выдавать мне новые шутки. Я попросил ее рассказать мне лучшую шутку всех времен. – Старик замолчал.

– И? – спрашивает Петер.

– Мужчина две панды плитч платч песочные глаза слишком глупо, – проговорил Старик.

Петер смотрит на него пустым взглядом.

– Это не смешно, – говорит он наконец.

– Это действительно так или мы просто слишком глупы, чтобы это понять?

– Это действительно не смешно.