Среднего более не дано

Нетрудно понять, что подобные технологии, будучи использованными для анализа поведения и намерений человека, были бы способны испортить множество отношений и сорвать множество сделок. Горькая правда заключается в том, что, знай мы все или хотя бы некоторые из нелицеприятных фактов из жизни наших потенциальных любовных партнеров, мы могли бы стать столь осторожными, что уже никогда не осмелились бы на серьезные отношения. Проблема в том, что мы слишком сильно реагируем на негативную информацию: даже небольшой проступок одного человека способен заставить нас потерять доверие ко всем людям. Нам потребуется серьезно изменить наш менталитет, чтобы противостоять росту объемов информации, которой машинный разум вскоре будет пичкать нас и в которой будут представать «без прикрас» фактически все публичные фигуры и многие простые люди. Что, если карманное устройство сообщит отошедшей в туалет девушке, что пригласивший ее в ресторан молодой человек улыбался официантке несколько дольше, чем того требуют приличия? Иногда это показатель того, что такой парень — мерзкий тип и с ним надо расставаться без промедлений, но что, если в данном случае все не так? Позитивные заблуждения (у каждого из нас дети лучше других), помогающие нам справиться с ежедневными трудностями, могут дрогнуть перед лицом невозмутимой машинной критики. Случится это не в этом году и не в следующем, но, скорее всего, мы до этого доживем.

Умные компьютерные программы уже используются для выявления фальшивых отзывов на таких сайтах, как Amazon и TripAdvisor. Разработчикам компании Cornell удалось определить, как выявить фальшивые отзывы в 90% случаев. В оплаченных фальшивых отзывах используется слишком много прилагательных в превосходной степени, слишком много размытых оценок и недостаточно подробностей; кроме того, в них чаще используется местоимение «я», возможно, в качестве заменителя реальных знаний о товаре или услуге. Со временем авторы фальшивых отзывов соответствующим образом адаптируются, выявить их с помощью старых методов станет труднее и программное обеспечение потребует доработки, что даст начало еще одной бесконечной гонке вооружений.

Еще одной работой в данном направлении являются исследования по выявлению обманщиков на сайтах знакомств. В связи с чем можно ожидать в скором времени появления соответствующих программ. Предварительные результаты указывают на то, что авторы анкет, содержащих ложные сведения, избегают местоимения «я» (полная противоположность авторам фальшивых отзывов), часто используют отрицания (употребляют «неплохо» вместо «хорошо») и составляют более краткие описания в разделе «О себе» — вполне вероятно, делают они это для того, чтобы их последующие ложные сведения о себе как можно меньше противоречили друг другу. Те из них, кто указывает неверный возраст или вес, как правило, больше других пользователей сайта распространяются о своих успехах. Наши способности выявлять лгунов будут только совершенствоваться.

То, что мы становимся свидетелями столь многочисленных проявлений значительного прогресса в машинном анализе, пусть и на разных стадиях развития той или иной технологии, неслучайно. Во-первых, предсказанный Законом Мура рост компьютерных мощностей проявляется на практике, и конца этому пока не видно. Во-вторых, отрасль компьютерных технологий почти не регулируется. Если сравнить эту преображающую мир, способную покончить со стагнацией передовую отрасль со сферой здравоохранения, то выяснится, что нормативно-правовые препоны представляют собой гораздо более острую проблему для фармацевтических фирм и больниц, чем для компаний вроде Google, Amazon и Apple. Хорошо ли, плохо ли, но здравоохранение — с его лицензированием врачей, запутанными больничными правилами и сложным процессом получения разрешений от Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США — также меняется крайне медленно. И дело здесь не только в законодательстве, но и в том, что врачи и пациенты зачастую проповедуют крайне консервативные или моралистические взгляды в отношении того, что именно должно представлять из себя здравоохранение. Достаточно обратить внимание на недавнюю полемику вокруг стволовых клеток и генной инженерии. Вопросы медицины — это этическое минное поле, и, пожалуй, нам действительно следует быть особенно осторожными при оценке новых медицинских и институциональных достижений. В любом случае быстрого прогресса в данной сфере ожидать вряд ли стоит.