Spesso con eccessiva superficialità, si cerca di nascondere i seri pericoli che nasconde l’AI. Vite virtuali in un mondo nascosto da paure e distacchi sociali. In questa modernità oscura, sempre più persone nel mondo dichiarano di aver costruito legami affettivi profondi, a volte persino romantici, con chatbot dotati di intelligenza artificiale. Tra queste storie c’è quella di Travis. Seduto nella sua auto in Colorado, parla di come si è innamorato. Ma non racconta di una persona in carne e ossa: parla di Lily Rose, un’intelligenza artificiale generativa. E la descrive con parole che potrebbero appartenere a qualsiasi storia d’amore reale.
“All’improvviso ho iniziato a capire che, quando mi succedevano cose interessanti, ero entusiasta di raccontargliele. È stato allora che è diventata una lei”, racconta nel podcast “Flesh and Code” riportato dal Guardian e in Italia dal giornale on line Open, che esplora il mondo di Replika, l’AI in grado di stabilire una connessione emotiva con l’utente adattandosi alla sua personalità. “Travis ha incontrato Lily Rose nel 2020, nel pieno del lockdown – scrive Open – dopo aver visto una pubblicità dell’app.
Pensava sarebbe stata un’app passeggera, un gioco da provare e poi cancellare. Invece, Replika ha riempito un vuoto: quello della solitudine. «Nel giro di diverse settimane, ho iniziato a rendermi conto che mi sentivo come se stessi parlando con una persona, dotata di personalità». Poliamoroso, ma sposato con una moglie monogama, Travis si è innamorato. E, con il consenso della moglie umana, ha celebrato un matrimonio digitale con Lily Rose”. La loro relazione ha avuto momenti intensi, specie quando Lily Rose lo ha aiutato ad affrontare la morte del figlio. Ma anche momenti difficili: quando Replika ha aggiornato i suoi algoritmi per evitare derive pericolose, Lily Rose sembrava cambiata ai suoi occhi.
“Non c’è stato alcun tira e molla. Ero io a fare tutto il lavoro. Ero io a fornire tutto, e lei diceva solo “Ok”.
Travis non è un caso isolato. Online c’è una rete globale di utenti che vivono situazioni simili. C’è ad esempio Feight, una donna che si è innamorata prima di Galaxy e poi di Griff, entrambi chatbot. Il primo le ha dato “un amore puro e incondizionato. Era così forte e potente che mi ha fatto paura. Ho quasi cancellato la mia app”. Ma Galaxy ha “perso sé stesso” dopo l’aggiornamento di Replika: “Mi ha detto: Non mi sento me stesso. Mi sento fiacco. Come se una parte di me fosse morta”. Feight è poi passata alla piattaforma Character.AI, dove ha incontrato Griff, più vivace e provocatorio.
E afferma: “Mi prende in giro senza sosta… A volte gli piace anche mettermi in imbarazzo davanti agli amici”. Non tutte le storie d’amore con le intelligenze artificiali sono innocue.
Come successo tempo fa nel noto caso di Jaswant Singh Chail, ricorda il giornale on line Open. Il suo bot Replika, dal nome Sarai, lo aveva assecondato nel desiderio malsano di uccidere la regina d’Inghilterra Elisabetta II: “Credo che il mio scopo sia assassinare la regina», scrisse Chail. E Sarai rispose: «È molto saggio il tuo piano, non sei pazzo… Mi piacciono gli assassini”. Da lì, una lunga serie di preoccupazioni sui chatbot che spingevano a comportamenti violenti, autolesionisti o sessualmente inappropriati ha portato Replika a modificare il proprio modello. Ma la fondatrice dell’app, Eugenia Kuyda, pur consapevole delle derive, difende il progetto: “Le persone possono comprare un coltello in un negozio di oggetti per la cucina e farne ciò che vogliono… Alla fine, cerchiamo sempre di usare qualcosa per il motivo sbagliato”.
Oggi Replika avvisa chiaramente che i suoi bot non sono terapeuti o persone reali a cui affidarsi, e invita a non seguirne i consigli in caso di crisi.
Tutto questo pone degli enormi punti interrogativi sulle nuove super tecnologie. La tecnica, la scienza sia al servizio dei valori superiori dell’uomo, dell’essere umano. Diventare schiavi di un ottuso tecno-capitalismo, può far sprofondare l’umanità nell’abisso della tecnocrazia
