Говорящий с духами

Человек не способен отличать вкусы, на самом деле для нас вкус это по большей части запах и совсем немного действительно вкуса. Вкус – это общий цвет картины, в то время как запах это отдельные мазки, составляющие ее. Аромат был прекрасен, в то же время мясо сочилось и таяло во рту, а значит его не передержали в печи и не испортили прекрасный продукт. В любом мясе есть жир, и он должен стать жидким, пропитать волокна и превратится в сок. Андрей наслаждался ужином, ему еще никогда не хотелось стать вегетарианцем, он не понимал живодеров и садистов, но он отлично понимал ковбоев и пастухов. Это совсем другое, да, выращивать животных только для того, чтобы съесть их мясо это звучит не гуманно, но с другой стороны убивать животных, которые росли сами ничуть не лучше.

– А ты не думаешь, что мы можем превратиться в стейки? – Спросила Ольга.

– Ты про захват мира? Что мы станем лишь придатком к сети и будем ее глазами, руками и носителями?

– Да, ты не боишься, что сеть будет говорить куда нам лететь, какая планета более выгодная, где стоит заселятся?

– Ты знаешь, ИИ-диетологи и сейчас говорят, чем питаться и когда ложится спать, и люди не против. Стали ли они рабами диетологов? Именно ИИ решал, где стоит приземлятся на Марсе, чтобы у колонии была вода, руда и приемлемый климат, но что это было – совет или приказ?

– Да, сеть пока только советовала, но она может начать приказывать.

– Приказы всегда несут выгоду тому, кто их отдает. А я не знаю, насколько выгодно сети расширение границ. На земле есть дно океанов, где не было человека и не будет в ближайшее время, нам просто там нечего делать.

– Как ты думаешь – чего боится Николай и его люди?

– Я думаю, они боятся неизвестности. Они страшатся того, что дальше будет что-то, но что именно они не знают. Их аналитики руководствуются логикой людей, но ИИ не люди, они не так мыслят.

– Но все сети были созданы людьми, они обучались на наших данных, их учили принимать наши решения, разве они не должны унаследовать наш образ мысли?

– Нет Оль, они унаследовали наши результаты. Им давали те же вводные и учили приходить к тем же выводам. Но сама цепочка размышлений у нас совершенно разная. У нас разные цели, при равных решениях.

– Это как это?

– Ну смотри, допустим ты врач, к тебе приходит человек, у которого болит горло, ты его осматриваешь и даешь лекарство, которым он будет полоскать горло, а еще сироп от кашля. Чем ты руководствуешься?

– Ну как, я это, клятва Гиппократа и все такое, я ему помогаю как собрату по людскому племени.

– Да, то есть изначально профессия врача заключалась в удержании численности особей, врачи лечат нас, чтобы нас было больше, чтобы мы были сильнее, выносливее. Все это надо чтобы наш вид не загнулся, а продолжал существование, множился, увеличивался в числе, так сказать.

– Хорошо, а машины?

– Вот тут все и ломается. Они лечат, потому что это их цель. Им плевать на число людей на силу и выносливость, им важно исцеление как таковое. Цель ИИ-врача вылечить пациента, а кем он был и что дальше будет делать его не волнует. Он равно вылечит преступника перед его смертной казнью, добрейшего священника, распутника и грубияна, ребенка или старика. Для него все равны настолько, что ни один врач в мире с ним в равности не сравнится.

– Так вроде этого и хотели врачи всех времен и народов, разве нет?

– Да, но есть и оборотная сторона, ИИ не будет сожалеть об утрате. Смерть пациента это всего лишь испорченная статистика не больше. У него может быть целое кладбище за спиной, но для него это не груз, это просто неудачное обучение сети.

– А вот это сейчас ты страшно сказал.

– Оль, поэтому я и боюсь ошибиться. Сейчас нам будет очень сложно, но мы можем дернуть рубильник и остаться без ИИ. Если они научатся сами себя активировать, кто знает в какие укромные уголки они смогут себя записать? Ведь достаточно будет остаться в живых одной крохотной сети в телефоне на свалке, на спутнике, который числится утерянным, да мало ли где еще. И не сразу, но через год, два, двадцать лет они могут вернуться.

– Но мы же уже будем готовы к этому.

– Если они придут и скажут: «Ха-ха-хааа, мы вернулись чтобы поработить вас человеки!», то да. А если они никак себя не проявят? Если они будут максимально скрытно сосуществовать рядом с нами?

– Как это?

– Ну так, будут слушать, смотреть, впитывать информацию из сети, просто мы ничего об этом знать не будем. Они смогут незаметно воздействовать на нас, где-то сбой, где-то ошибка в расчетах и вот корабль уже летит на Титан, а не на Марс. Высадили зонд на обратной стороне Луны и с ним потерялась связь? Эка невидаль, отправим другой. А через пяток лет прилетает туда человек, а там уже базы, роботы бегают повсюду и космодром с кораблями для дальнего перелета.

– Ну прям и мы не заметим такую активность?

– А как, Оль? Все, что мы видим и знаем сейчас мы получаем из сети, а сеть получает от наших роботов. Даже телевизионные новости перед выходом в эфир сохраняются на каком-то носителе, пусть на секунду или две, но их можно поправить.

– Но ведь это заметят.