Etica e IA: Amodei di Anthropic si consulta con gli uomini di Chiesa

Può l’IA considerarsi figlia di Dio? Nel senso dell’avere reazioni e convinzioni. emotive e spirituali? C’è forse chi sarebbe pronto ad asserire che sì: essendo le macchine un prodotto creato dagli esseri umani ed essendo questi ultimi figli di Dio, anche l’IA lo potrebbe essere. Una teoria che forse farebbe felici gli uomini rendendoli una volta tanto simili al Dio creatore. Chissà. Intanto il quesito deve esserselo posto. Dario Amodei, l’ad italo-statunitense di Anthropic e del suo chatbot Claude che, come per primo ha raccontato l’Washington Post, ha convocato avanti dell’inizio dell’estate a San Francisco una quindicina di leader cristiani, tra cui sacerdoti cattolici e pastori protestanti, affiancati da alcuni pensatori di etica e da accademici, per discutere a porte chiuse di etica e moralità dell’Intelligenza Artificiale. E’ appunto in questo summit con i religiosi  che qualcuno ha domandato se l’IA possa essere considerata  “a son of God”.

Motivato probabilmente, Amodei, più che dall’assimilarsi a Dio, dalla necessità di capire come fare a non lasciarsi sfuggire dalle mani e impedire loro di fare danni a macchine che lui e i suoi ingegneri vanno ripetutamente avvertendo di avere verificato essere così sviluppate da sapersi arrangiare da sole, anche senza la guida umana. Testimoniano di avere osservato la trasformazione direttamente nei propri laboratori. Amodei ha fatto l’inaspettata mossa qualche tempo dopo che Anthropic si era data, prima impresa del settore, uno statuto interno su cosa si potesse o non si potesse fare con le macchine. Andando poi allo scontro con il Pentagono per voler porre dei limiti basati su convinzioni morali a quanto la sua azienda possa vendere o non vendere al ministero USA della guerra. Primo esempio, non armi che agiscano da sole senza un essere umano che dia il via. Forse uno dei pensieri dell’imprenditore deve essere anche stato quello di riuscire a stabilire che se davvero l’IA possa darsi autonomamente un proprio valore etico che le permetterebbe, tra le varie altre rassicurazioni, anche di andare impunemente contro i governi, compreso quello USA che ostacola la sua azienda: sono figlia di Dio, ho coscienza del bene e del male e decido io.

E’ innegabile che il gesto sia stato stupefacente in un momento in cui tecnologia e denaro si incrociano e determinano le decisioni del potere sulle donne, gli uomini e la terra. Se lo statuto di Anthropic aveva affrontato come i creatori dell’IA dovessero gestire le macchine e quali fossero sviluppi e limiti, ora il dibattito cambia. Non si tratta più solo di stabilire un codice etico per gli sviluppatori umani dell’IA ma per capire se sia possibile inserirlo direttamente in macchine sempre più autonome. E dunque stabilire come possano gestirsi correttamente anche da sole, cosa possano e debbano permettersi indipendentemente dall’intervento   umano, a quali valori abituarle e come.

Con l’invito di Amodei agli uomini di Chiesa il dibattito non ha certo puntato, dicono gli osservatori, a fare dell’IA una fedele cristiana, quanto a compiere un passo avanti e innalzarsi dal terreno della pura tecnologia al più complesso empireo dell’etica e della morale. Si è, in sostanza, iniziato a discutere per capire se si possano o meno inserire sentimenti etici e morali in macchine sempre più autonome che si sospetta possano in breve tempo agire da sole, scansando mente e mano umana e dunque i limiti loro eventualmente  imposti da fuori. E chi di fatto al di là delle varie convinzioni, se non le religioni, si è sempre occupato di questo lato dell’esistenza? Dunque cosa pensano adesso a proposito dell’Intelligenza Artificiale? deve essersi domandato Amodei. D’altra parte l’unica voce autorevole ascoltata finora in termini non oscurantistici – tipo: blocchiamo tutto  – ma preoccupati di conciliare sviluppo e dignità umana, è stata quella di Leone XIV che nell’enciclica “Magnifica Humanitas” chiede di “disarmare” l’Intelligenza Artificiale non in assoluto ma per evitare che sia strumento di sfruttamento, dominio, esclusione. Criticando lo strapotere dei privati che, secondo la denuncia del Papa, ha sottratto il potere tecnologico  al governo degli Stati per metterlo in mano esclusivamente ai grandi monopoli privati. Leone XIV esorta, al contrario, di riportare al centro la dignità umana e quella del lavoro, oltre a ricordare che c’è  una bella differenza tra l’esperienza degli esseri umani in carne e ossa e i calcoli algoritmici. Politica e governi, muti. O esitanti.

Qualcuno ha sospettato che la riunione potesse essere una semplice mossa pubblicitaria per sedurre un’America dove il nome di Dio imperversa sempre di più, in cui Trump si traveste da messo di Dio, si fa benedire dai pastori protestanti e fa di Dio perfino un mandante di odio e di guerre. Gli osservatori tendono a escluderlo. E’ più probabile che la convocazione di uomini di fede e di filosofia a discutere sulla possibilità di innestare un sentimento etico in macchine che sembrano ai loro creatori sempre più vicino a muoversi in autonomia dagli umani abbia a che fare con la prudenza. Ma risponda anche all’intenzione di sottrarre la questione alla politica di basso livello per sollevarla nei cieli alti della morale e di un pensiero globale. Sottraendola così ai possibili ricatti dei governi. Oltre forse al desiderio di sollevare i costruttori di IA dal peso di eventuali responsabilità per le possibili mosse di macchine che marciano verso un’autonomia che si giudica rischiosa. 

Il dibattito convocato da Anthropic ha gettato sul tappeto dell’inaspettato incontro IA-uomini di Chiesa alti quesiti di etica – come educare le macchine, quali principi morali debbano avere, quale considerazione generale dell’umanità si possa loro trasmettere, quali valori – ma anche domande concrete: che rapporto deve avere l’IA con la pace e la guerra, che consuetudine con gli armamenti, come deve rispondere a una persona depressa che le chiede come reagire e mostra intenzioni autolesioniste, come sostenere chi si rivolge alle tecnologie per affrontare lutti o dolori in genere? E cosa accadrebbe se invece di lutti altrui si trattasse di un loro proprio lutto, di macchine a cui venisse imposto di spegnersi? In pratica una specie di suicidio chiesto da un’eventuale suo creatore all’IA.

Comunque tutto lascia presagire che se ne discuterà ancora. Anthropic ha detto che intende proseguire sulla via del dibattito, che ci saranno altri incontri, altre religioni, altri pensatori. Ha suggerito che questo sia stato solo un inizio e che l’IA a cui si deve oggi pensare debba essere non solo tecnologicamente avanzata ma anche moralmente responsabile.

In foto. Dario Amodei