Ian disse: — Grazie, Marj, ma hai sentito quello che ha detto Georges. Sta parlando di un pilota artificiale che saprà cavarsela meglio di me. È possibile. Al diavolo, succederà! I coboldi hanno sostituito i minatori, e anche la mia categoria scomparirà. Non è detto che questo debba piacermi, però capisco che accadrà.
— Georges, tu hai lavorato con computer intelligenti?
— Certo, Marjorie. L’intelligenza artificiale è un campo vicinissimo al mio.
— Sì. Allora saprai che gli scienziati del settore hanno annunciato diverse volte di essere sul punto di arrivare al computer pienamente autocosciente. Ma nessun tentativo è mai riuscito.
— Già. Terribile.
— No. Inevitabile. Nessun tentativo riuscirà mai. Un computer può diventare autocosciente, sicuro. Portiamolo al livello umano di complicazione ed
Scrollai le spalle. — È un dilemma insolubile. Non può essere umano, non potrà mai essere umano. Forse Ian non riuscirà a salvare i suoi passeggeri, ma
— Non la
— Forse no.
— Al condizionale, con molti
Ian era molto pensoso. — Forse nell’incontro con la direzione dovrei esigere a ogni costo che si misuri l’impegno etico di un eventuale pilota artificiale.
— E come lo misuri Ian? Io non ho modo di programmare l’impegno etico nel feto, e Marj ha già spiegato perché anche l’addestramento non servirebbe a nulla. Che prove si potrebbero usare?
Georges si girò verso di me. — Da studente ho letto diverse storie classiche sui robot umanoidi. Racconti affascinanti e molti erano imperniati sulle cosiddette leggi della robotica. Il concetto fondamentale era che in questi robot veniva programmata l’esigenza assoluta di non fare del male agli esseri umani, né direttamente né per inazione. Una trovata letteraria fantastica… Ma nella pratica com’era possibile? Cosa può dare il senso di lealtà per gli uomini a un essere autocosciente, non umano, intelligente, sia elettronico o organico? Io non so come fare. Gli specialisti di intelligenza artificiale mi sembrano allo stesso punto morto.
Georges si esibì in un sorrisetto cinico. — Si potrebbe quasi definire l’intelligenza come il livello a cui un essere cosciente si chiede: «Io cosa ci guadagno?» — Continuò: — Marj, forse per la faccenda di vendermi un tuo uovo dovrei cercare di spiegarti cosa ci guadagnerai tu.
— Non starlo a sentire — invitò Janet. — Ti farà coricare su un tavolo gelato e guarderà nel tuo tunnel dell’amore senza la minima intenzione romantica. Io lo so. Mi sono lasciata convincere tre volte. E non mi ha nemmeno pagata.
— Come posso pagarti se abbiamo la comunione dei beni? Marjorie, mia dolce signora, il tavolo
— Zitti! — disse Ian. — C’è qualcosa di nuovo sul video. — Alzò il volume.
— …Consiglio per la Sopravvivenza. Gli eventi delle ultime dodici ore sono un monito per i ricchi e i potenti. I loro giorni sono terminati e la giustizia deve trionfare. Gli omicidi e altre salutari lezioni continueranno finché le nostre giuste richieste non saranno accettate. Restate sintonizzati sul vostro canale locale d’emergenza…
11
Tutti coloro che quel giorno erano troppo giovani per aver sentito l’annuncio avranno senz’altro letto a scuola. Ma io devo sintetizzarlo per spiegare come cambiò me e la mia strana vita. Questo cosiddetto «Consiglio per la Sopravvivenza» sosteneva di essere una società segreta di «uomini giusti» dediti a correggere le miriadi di errori sulla Terra e sui molti pianeti e luoghi dove viveva l’umanità. Era questo l’impegno solenne delle loro vite.
Ma per prima cosa pensavano di immolare le vite di parecchia altra gente. Dissero che avevano compilato elenchi dei veri padroni e signori di ogni luogo, della Terra e fuori; elenchi separati per ogni stato territoriale, più una grande lista di leader mondiali. Quelli erano i loro bersagli.