Operazione Domani

Ian disse: — Grazie, Marj, ma hai sentito quello che ha detto Georges. Sta parlando di un pilota artificiale che saprà cavarsela meglio di me. È possibile. Al diavolo, succederà! I coboldi hanno sostituito i minatori, e anche la mia categoria scomparirà. Non è detto che questo debba piacermi, però capisco che accadrà.

— Georges, tu hai lavorato con computer intelligenti?

— Certo, Marjorie. L’intelligenza artificiale è un campo vicinissimo al mio.

— Sì. Allora saprai che gli scienziati del settore hanno annunciato diverse volte di essere sul punto di arrivare al computer pienamente autocosciente. Ma nessun tentativo è mai riuscito.

— Già. Terribile.

— No. Inevitabile. Nessun tentativo riuscirà mai. Un computer può diventare autocosciente, sicuro. Portiamolo al livello umano di complicazione ed è autocosciente. Poi scopre di non essere umano. Poi si rende conto che non potrà mai essere umano; che può solo starsene lì a prendere ordini dagli umani. Dopo di che, impazzisce.

Scrollai le spalle. — È un dilemma insolubile. Non può essere umano, non potrà mai essere umano. Forse Ian non riuscirà a salvare i suoi passeggeri, ma tenterà. Invece un essere artificiale, non umano, senza il minimo attaccamento per la razza umana, potrebbe schiantarsi con la nave per puro e semplice piacere. Perché si è stancato di essere trattato da non umano. No, Georges. Io volerò sempre con Ian. Non con la tua creatura sintetica che potrebbe imparare a odiare gli umani.

— Non la mia creatura, cara signora — ribatté dolcemente Georges. — Non hai notato in che modo ho discusso del progetto?

— Forse no.

— Al condizionale, con molti se. Perché niente di quello che hai detto tu mi giunge nuovo. Non ho mai promesso di impegnarmi in questa impresa, e non lo farò. Io posso progettare un pilota perfetto. Ma non mi è possibile inserire in questa creatura l’impegno etico che è l’essenza del mestiere di Ian.

Ian era molto pensoso. — Forse nell’incontro con la direzione dovrei esigere a ogni costo che si misuri l’impegno etico di un eventuale pilota artificiale.

— E come lo misuri Ian? Io non ho modo di programmare l’impegno etico nel feto, e Marj ha già spiegato perché anche l’addestramento non servirebbe a nulla. Che prove si potrebbero usare?

Georges si girò verso di me. — Da studente ho letto diverse storie classiche sui robot umanoidi. Racconti affascinanti e molti erano imperniati sulle cosiddette leggi della robotica. Il concetto fondamentale era che in questi robot veniva programmata l’esigenza assoluta di non fare del male agli esseri umani, né direttamente né per inazione. Una trovata letteraria fantastica… Ma nella pratica com’era possibile? Cosa può dare il senso di lealtà per gli uomini a un essere autocosciente, non umano, intelligente, sia elettronico o organico? Io non so come fare. Gli specialisti di intelligenza artificiale mi sembrano allo stesso punto morto.

Georges si esibì in un sorrisetto cinico. — Si potrebbe quasi definire l’intelligenza come il livello a cui un essere cosciente si chiede: «Io cosa ci guadagno?» — Continuò: — Marj, forse per la faccenda di vendermi un tuo uovo dovrei cercare di spiegarti cosa ci guadagnerai tu.

— Non starlo a sentire — invitò Janet. — Ti farà coricare su un tavolo gelato e guarderà nel tuo tunnel dell’amore senza la minima intenzione romantica. Io lo so. Mi sono lasciata convincere tre volte. E non mi ha nemmeno pagata.

— Come posso pagarti se abbiamo la comunione dei beni? Marjorie, mia dolce signora, il tavolo non è gelato ed è imbottito e si può leggere o guardare un terminale o fare quello che si vuole. È un grosso miglioramento rispetto alle procedure di una generazione fa, quando perforavano la parete addominale e spesso rovinavano un’ovaia. Se tu…

— Zitti! — disse Ian. — C’è qualcosa di nuovo sul video. — Alzò il volume.

— …Consiglio per la Sopravvivenza. Gli eventi delle ultime dodici ore sono un monito per i ricchi e i potenti. I loro giorni sono terminati e la giustizia deve trionfare. Gli omicidi e altre salutari lezioni continueranno finché le nostre giuste richieste non saranno accettate. Restate sintonizzati sul vostro canale locale d’emergenza…

11

Tutti coloro che quel giorno erano troppo giovani per aver sentito l’annuncio avranno senz’altro letto a scuola. Ma io devo sintetizzarlo per spiegare come cambiò me e la mia strana vita. Questo cosiddetto «Consiglio per la Sopravvivenza» sosteneva di essere una società segreta di «uomini giusti» dediti a correggere le miriadi di errori sulla Terra e sui molti pianeti e luoghi dove viveva l’umanità. Era questo l’impegno solenne delle loro vite.

Ma per prima cosa pensavano di immolare le vite di parecchia altra gente. Dissero che avevano compilato elenchi dei veri padroni e signori di ogni luogo, della Terra e fuori; elenchi separati per ogni stato territoriale, più una grande lista di leader mondiali. Quelli erano i loro bersagli.