Битие

ИНТЕРЛИДОЛЮДИЯ

И тъй, как да ги запазим лоялни? Какви мерки трябва да вземем, за да сме сигурни, че нашите машини ще ни останат верни?

След като изкуственият интелект стане равностоен на нашия, той няма ли да проектира нов, още по-добър? И после още по-добър — и още, с все по-бързо темпо? Дали в най-лошия случай изкуственият интелект няма да реши да елиминира досадните си създатели, както става в толкова много евтини драми? А в най-добрия няма ли да се чувстваме унизени, че се отнасят към нас с носталгична търпимост? Все едно сме слабоумни старци или домашни любимци?

Решения? Азимов предлага закони на роботиката, които повеляват всеотдайност към човечеството и са вградени толкова дълбоко в самата тъкан на синтетичните умове, че не могат да бъдат премахнати. Но какво се случва със законите, замислени с добри намерения? Нима добрите юристи не ги извъртат така, както си поискат? Писатели като Азимов и Уилямсън предвиждат как свръхразумните машини стават господари на всичко въпреки че са програмирани „да служат на човека“.

Други методи?

1) Как предците ни са опитомили вълците? Ако някое куче убие агне, всичките му роднини бивали унищожавани. Може би да предложим на ИИ някакво изкушение да ни предадат — и да унищожим онези, които се опитат? Не забравяйте, че ИИ ще са по-умни от кучетата! В такъв случай дали да не ги накараме да се съревновават? Да се държат под око?

Опитите и подборът могат да се окажат трудни, след като изкуствените същества получат граждански права. Дали в такъв случай да не допускаме машините да станат прекалено привлекателни, приятелски настроени или съчувствени? Да изискваме всички роботи да се провалят на теста на Тюринг, за да можем винаги да различаваме човека от машината, като елиминираме от самото начало предателите дори когато те плачат (изкуствено)? Или това ще повтори онези закони от миналото, които забранявали робите да се учат да четат?

Не забравяйте, че много компании печелят от създаването на сладки или привлекателни машини. Или да вземем новата тенденция на бракове с роботи. Брокери и дизайнери на ииполовинки ще се борят за своята индустрия, та дори тя да води до срив на раждаемостта. Но това е друга тема.

2) Как да създадем нови и по-умни същества и в същото време да ги запазим лоялни? Човечеството прави това всяко поколение — със собствените си деца!

В такъв случай трябва ли да прегърнем настъпващата ера, като дефинираме умните машини да бъдат човечни? Да им позволим да минат всички тестове на Тюринг и да спечелят симпатиите ни? Да ги пращаме в училищата си, да ги наемаме на работа, да окуражаваме най-умните да се държат едни други под око в името на цивилизацията, която ги приема по начина, по който ние приемаме поколенията умни хлапета — които след това страдат от същото унижение да приемат още по-умните си наследници? Да им дадем неотменен интерес за запазване на едно човечество, което — по дефиниция — включва както плът, така и силиций?

3) Или някаква комбинация? Представете си бъдеще, в което на симбиозата се гледа като на нещо естествено. Нещо толкова лесно, колкото е носенето на дрехи. Вместо да ни изоставят като тъпи предци, защо да не се превърнат в нас? И ние да се превърнем в тях? В безкрайно много фантастични произведения на подобен вид киборги се гледа като на нещо грозно и отвратително. Резултат много по-лош от дрънчащите му съставни части. Но ако това свързване е единственият начин, по който можем да останем в играта?

Защо да приемаме най-лошото? Може ли да се облагодетелстваме (например със способността моментално да обработваме информация), без да губим онова, което смятаме за най-скъпоценно за нас като човешки същества? Плътта. Естетиката. Интуицията. Индивидуалността. Любовта.

Какво ще получат машините от това сливане? Защо да остават свързани с бавни организми, направени от месо? Замислете се. Бозайниците, после приматите и хоминидите в продължение на последните петдесет милиона години са добавяли слоеве към мозъците си, покривайки подобния на риба малък мозък с последователни пластове мозъчна кора. Прибавяли са нови способности, без да изоставят старите. Логиката не елиминира емоцията. Предвиждането не изключва паметта. Новото и старото работят заедно. Представете си да добавим киберпротези към и без това мощните си мозъци, нещо като нео-неокортекс с огромни, способни на мащабиране възможности за изчисляване, преценяване и възприемане, докато органичните части продължават да вършат важните задачи.

С какво би могло да допринесе доброто старо органично човечество? Какво ще кажете за онази област, в която са добри всички нормални хора? Живите същества го правят от половин милиард години, а хората са го овладели до съвършенство.

Искане. Жадуване. Желание.

Дж. Д. Бернал го нарича най-странното нещо на света. Поставяне на цели и амбиции. Непостижими мечти, за чието постигане подлагаме на изпитание възможностите на всяка сила. Именно то ни закара на Луната две поколения преди да разполагаме с необходимите средства. Именно то е построило Вегас. Чистото, неустоимо желание.

Искането е онова, в което сме най-добри! А машините не са способни да го правят. Но с нас, чрез обединяването им с нас, те ще намерят по-силен копнеж от всичко, което може да се задоволи. Нещо повече, ако това е работата, която ни се възлага — да отговаряме за искането, — как бихме могли да възразим?

Именно в тези нужди и стремежи — в техните трепети и мечти — ще разпознаем нашите усъвършенствани потомци. Дори техните новопоявили се възможности да наподобяват възможностите на боговете.

Поколението Блекджек