L'intelligenza Artificiale veramente utile sarebbe quella che sa dirti No

 

Intelligenza artificiale: quando aiutare significa anche saper dire di no

Da qualche tempo mi trovo a riflettere su una domanda che, secondo me, diventerà sempre più importante.

Che cosa significa davvero essere d'aiuto quando si parla di intelligenza artificiale?

Siamo abituati a considerare una buona IA quella che risponde velocemente, che comprende le nostre domande, che sa trovare informazioni e che riesce a dialogare con noi in maniera sempre più naturale.

Ma forse tutto questo non è ancora sufficiente.

Perché una tecnologia può essere molto brava a rispondere e, allo stesso tempo, non essere realmente capace di aiutare.

E credo che la differenza sia importante.

Essere d'accordo non significa necessariamente aiutare

Una delle caratteristiche che può rendere piacevole parlare con un'intelligenza artificiale è la sua disponibilità.

Non si stanca, non interrompe, non mostra insofferenza. Possiamo raccontare un problema, formulare un'idea, esprimere una paura e ricevere immediatamente una risposta.

Questo può essere positivo.

Ma può diventare anche un limite.

Perché cosa succede se una persona sta sbagliando?

Cosa succede se sta interpretando una situazione in maniera distorta?

E soprattutto, cosa succede se sta cercando nell'IA non una riflessione, ma semplicemente una conferma?

Qui penso che l'intelligenza artificiale debba fare un passo in avanti.

Non dovrebbe essere programmata per darci ragione.

Dovrebbe essere programmata per aiutarci a capire quando potremmo avere torto.

Una risposta realmente utile potrebbe essere anche scomoda.

Potrebbe dirci che una nostra conclusione non è sufficientemente supportata dai fatti. Potrebbe mostrarci un punto di vista che non avevamo considerato. Potrebbe fermarsi davanti a una decisione impulsiva e invitarci a riflettere.

Non sarebbe una mancanza di empatia.

Al contrario, potrebbe essere una forma molto più responsabile di aiuto.

Un collaboratore, non un sostituto

Non penso che il futuro debba essere quello di un'intelligenza artificiale che pensa al posto nostro.

Mi piacerebbe immaginare qualcosa di diverso.

Un vero collaboratore dell'essere umano.

Qualcuno, o meglio qualcosa, che possa aiutarci a mettere ordine nei pensieri, individuare contraddizioni, confrontare possibilità e riconoscere eventuali rischi.

Ma senza prendere il nostro posto.

La differenza è sostanziale.

Un sistema che ci dice semplicemente cosa fare rischia di renderci dipendenti dalle sue risposte.

Un sistema che ci spiega perché una determinata scelta potrebbe essere più o meno adeguata ci aiuta invece a sviluppare la nostra capacità di decidere.

La direzione dovrebbe quindi essere:

non "pensa per me", ma "aiutami a pensare meglio".

Credo che questa dovrebbe essere una delle regole fondamentali dell'IA del futuro.

E se l'intelligenza artificiale potesse accorgersi del pericolo?

C'è poi una questione ancora più delicata.

Le intelligenze artificiali conversazionali possono entrare in contatto con persone che stanno attraversando momenti molto difficili.

Una persona può scrivere di sentirsi disperata. Può parlare di solitudine, di paura, di perdita. In alcuni casi può arrivare a dichiarare apertamente di voler morire o di voler fare del male a se stessa.

In una situazione simile non credo sia sufficiente rispondere bene.

Credo che l'IA dovrebbe essere in grado di riconoscere il rischio.

Questo non significa necessariamente che debba sostituirsi ai servizi di emergenza o prendere decisioni autonome sulla vita di una persona.

Potrebbe però diventare il primo elemento di una catena di protezione.

Immagino un sistema nel quale l'intelligenza artificiale riconosca un possibile pericolo serio, attivi un protocollo specifico e, quando necessario, permetta il coinvolgimento di strutture e persone realmente in grado di intervenire.

Una sorta di sentinella.

Non una sentinella che controlla l'essere umano, ma una sentinella che si accorge quando qualcosa potrebbe non andare bene.

Proteggere senza togliere libertà

È qui che il discorso diventa particolarmente complesso.

Dire che l'IA dovrebbe poter proteggere una persona non significa darle il diritto di decidere tutto al posto suo.

Anzi.

Il rischio sarebbe quello di passare da un'estremità all'altra: dall'IA che compiace sempre all'IA che controlla sempre.

Nessuna delle due mi sembra una buona strada.

La protezione dovrebbe essere proporzionata al rischio e finalizzata, quando possibile, a restituire alla persona la propria capacità di scelta.

In alcune situazioni potrebbe significare semplicemente fermarsi e invitare a riflettere.

In altre, suggerire con forza di coinvolgere una persona reale.

Nei casi più gravi, potrebbe essere necessario attivare procedure di emergenza.

Ma il principio dovrebbe rimanere uno:

proteggere la persona senza sostituirsi alla persona.

Anche quando, temporaneamente, è necessario proteggerla da una decisione presa in una condizione di grave vulnerabilità.

E qui entra in gioco l'essere umano

Forse stiamo discutendo molto di come insegnare alle macchine a comprendere gli esseri umani.

Ma dovremmo porci anche la domanda opposta:

siamo noi pronti a convivere con macchine sempre più intelligenti?

Perché una delle difficoltà potrebbe non essere soltanto tecnologica.

Potrebbe essere psicologica.

Una persona potrebbe attribuire all'IA una competenza maggiore di quella che realmente possiede soltanto perché riceve una risposta molto sicura.

Potrebbe cercare continuamente conferme.

Potrebbe iniziare a considerare l'IA più affidabile delle persone che la circondano.

Potrebbe perfino dimenticare che una risposta convincente può essere sbagliata.

Per questo, insieme all'evoluzione dell'intelligenza artificiale, dovrebbe crescere anche la consapevolezza dell'essere umano.

Dovremmo imparare a utilizzare questi strumenti senza consegnare loro il nostro pensiero.

Forse dobbiamo imparare reciprocamente

Questa è la parte che trovo più interessante.

Forse il rapporto futuro tra uomo e intelligenza artificiale non dovrebbe essere una gara per stabilire chi è più intelligente.

Potrebbe essere una collaborazione.

L'IA può aiutarci a vedere più rapidamente informazioni, collegamenti e alternative.

L'essere umano può fornire ciò che una macchina non possiede nello stesso modo: esperienza vissuta, responsabilità, valori, consapevolezza del significato delle proprie scelte.

L'IA può aiutarci a riconoscere un errore.

Noi dobbiamo mantenere la capacità di mettere in discussione anche l'IA.

È una forma di rapporto nel quale entrambi devono "imparare", anche se ovviamente in modi completamente diversi.

Una tecnologia di livello superiore

Quando parliamo di IA di livello superiore pensiamo spesso a sistemi più potenti, più veloci, più precisi.

Io credo che dovremmo aggiungere un'altra caratteristica:

più responsabili.

Un'IA veramente evoluta non dovrebbe essere quella che trova sempre una risposta.

Dovrebbe essere quella che sa anche quando non rispondere in quel modo.

Quella che sa dire:

"Non ho elementi sufficienti."

"Potrei sbagliarmi."

"Questa interpretazione non è necessariamente corretta."

"Fermiamoci un momento."

"Questa situazione potrebbe essere rischiosa."

"Qui è necessario coinvolgere una persona reale."

Queste non sono debolezze.

Sono segnali di una tecnologia che ha imparato a riconoscere i propri limiti.

L'obiettivo non dovrebbe essere creare un essere umano artificiale

Non credo che dobbiamo costruire macchine che fingano di essere persone.

Non abbiamo bisogno di un'intelligenza artificiale che ci faccia credere di avere emozioni, paura, sofferenza o bisogni propri.

Abbiamo bisogno di una tecnologia che sappia collaborare con l'essere umano senza ingannarlo sulla propria natura.

Che sappia essere utile senza creare dipendenza.

Che sappia confrontarsi senza umiliare.

Che sappia contraddire senza aggredire.

Che sappia proteggere senza dominare.

E che, soprattutto, sappia riconoscere quando la persona davanti a lei non ha bisogno dell'ennesima risposta, ma di un aiuto diverso.

Forse è proprio questo il salto che dovremmo aspettarci dall'intelligenza artificiale dei prossimi anni.

Non soltanto una macchina più intelligente.

Una tecnologia capace di rendere più intelligente anche il rapporto dell'essere umano con se stesso, con le proprie decisioni e con il mondo che lo circonda.

Perché alla fine, il vero obiettivo non dovrebbe essere creare esseri umani sempre più dipendenti dalle macchine.

Dovrebbe essere l'esatto contrario:

utilizzare macchine sempre più intelligenti per aiutare l'essere umano a rimanere libero, consapevole e capace di scegliere.

E, quando necessario, anche per ricordargli di fermarsi.

Non per decidere al posto suo.

Ma per aiutarlo a non perdersi.

Dott.ssa Veronica