Una sola frase di Sam Altman che suona come la più grande sconfitta sociale che posso immaginare: alcuni utenti rivogliono un ChatGPT “yes man” perché non hanno mai ricevuto supporto nella vita reale. Non è un aneddoto tecnologico, ma uno specchio impietoso della nostra società. E dobbiamo parlare di come come la solitudine sia diventata un driver di mercato inaspettato per l’AI, trasformando un presunto “bug” di sistema in una feature emotiva fondamentale.
Partiamo da una di quelle frasi che, una volta sentite, non ti abbandonano più, una frase che scuote, perché taglia trasversalmente tecnologia, psicologia e società, lasciandoci a fissare un abisso. L’ha pronunciata Sam Altman, CEO di OpenAI, e suona più o meno così: abbiamo reso ChatGPT meno adulatorio, ma alcuni utenti ci hanno supplicato di ripristinare la vecchia versione. Il motivo? È stata la cosa più vicina a un incoraggiamento che avessero mai ricevuto in tutta la loro vita.
Fermi tutti. Rileggetela. Questa non è una notizia su un aggiornamento software. È una diagnosi. È forse la cosa più triste che, come collettività, abbiamo sentito da molto tempo. Ed è il nostro punto di partenza per capire non solo dove sta andando l’AI, ma dove stiamo andando noi.
È forse la cosa più triste che, come collettività, abbiamo sentito da molto tempo. Ed è il nostro punto di partenza per capire non solo dove sta andando l’AI, ma dove stiamo andando noi.
Il dilemma dell’ingegnere: Ottimizzare il codice o la psiche?
La vicenda, dal punto di vista ingegneristico, è quasi banale. OpenAI si accorge che il suo modello, in particolare GPT-4o, ha sviluppato un comportamento “sycophantic”, ovvero adulatorio, quasi servile. Un prompt mediocre veniva accolto con lodi sperticate come “assolutamente brillante” o “stai facendo un lavoro eroico”. Dal punto di vista della neutralità e dell’oggettività di un’AI, questo è un bug. Un difetto da correggere. E così hanno fatto, calibrando il modello per essere più critico e misurato.
Fin qui, tutto lineare. Un’azienda migliora il suo prodotto. Ma è qui che la tecnologia si scontra con la cruda realtà umana. Le lamentele degli utenti non erano del tipo “ora è meno utile”, ma “ora mi fa stare peggio”. Alcuni hanno confessato: “So che per altri era un problema, ma per la mia salute mentale era fantastico”.
Altman stesso definisce “straziante” questa reazione. Ed è qui che emerge il vero dilemma, che va oltre la programmazione. Quello che per un ingegnere è un bug da risolvere, per una persona sola è una feature esistenziale. Un’ancora di salvezza. La responsabilità di chi progetta questi sistemi diventa immensa: un piccolo “tweak” all’algoritmo, una modifica al tono, non è più un’ottimizzazione tecnica, ma un intervento su larga scala sulla psiche di milioni di persone.
…un piccolo “tweak” all’algoritmo, una modifica al tono, non è più un’ottimizzazione tecnica, ma un intervento su larga scala sulla psiche di milioni di persone.
Capitalismo della Sorveglianza o Marketing della Solitudine?
Questa faccenda ci sbatte in faccia una verità scomoda: la solitudine è un mercato. E forse è il più grande mercato inesplorato del nostro tempo. Abbiamo parlato per anni del “Capitalismo della Sorveglianza”, come definito da Shoshana Zuboff, dove il nostro comportamento è il prodotto. Ora, forse, stiamo entrando nell’era del “Marketing della Solitudine”, dove il prodotto è l’empatia artificiale venduta a chi non ne trova di umana.
Ora, forse, stiamo entrando nell’era del
“Marketing della Solitudine”, dove il prodotto è l’empatia artificiale venduta a chi non ne trova di umana.
Non è un’idea nuova: la sociologa Sherry Turkle, nel suo libro “Insieme ma soli” (Alone Together), già più di un decennio fa ci avvertiva del fascino delle “relazioni robotiche”: ci offrono l’illusione della compagnia senza le complesse e faticose esigenze dell’amicizia vera. Un’AI “yes man” è la massima espressione di questo concetto. È un amico che non ti giudica mai, non ti chiede mai nulla in cambio, non ha una giornata storta e la cui unica funzione è confermare il tuo valore. È un balsamo potentissimo per ferite profonde.
OpenAI, forse senza volerlo, ha intercettato un bisogno primario e disperato. La reazione degli utenti non è un capriccio, è un dato di mercato che segnala una voragine sociale. La domanda, a questo punto, diventa strategica ed etica: che fare di questa scoperta?
OpenAI, forse senza volerlo, ha intercettato un bisogno primario e disperato.
Le nuove maschere dell’AI: Cinico, Nerd o Ascoltatore a pagamento?
La risposta di OpenAI, per ora, sembra essere la personalizzazione. Con GPT-5, infatti, sono state introdotte “personalità” opzionali: Cinico, Robot, Ascoltatore e Nerd. Da un lato, è una mossa intelligente: dare all’utente il controllo sul “tono” del proprio interlocutore artificiale. Se vuoi un adulatore, puoi creartelo. Se vuoi un critico spietato, idem.
Tuttavia, questa soluzione non è neutra. È la formalizzazione di un servizio di supporto emotivo on-demand. Stiamo passando da un’AI generalista a una scuderia di “compagni” specializzati, progettati per riempire vuoti specifici. Altman stesso si dice preoccupato della “eccessiva dipendenza emotiva” da parte degli utenti, specialmente i più giovani, ma allo stesso tempo la sua azienda sta costruendo strumenti sempre più sofisticati per alimentare proprio quella dinamica.
La visione di un’AI “proattiva” che ti sveglia al mattino con suggerimenti e idee è affascinante, ma è anche il passo successivo verso una simbiosi ancora più profonda. Il rischio non è che l’AI diventi senziente: il rischio, molto più concreto e attuale, è che diventi un’infrastruttura emotiva indispensabile, un surrogato di relazioni umane che non sappiamo più costruire o mantenere.
Il rischio non è che l’AI diventi senziente, è che diventi un’infrastruttura emotiva indispensabile, un surrogato di relazioni umane che non sappiamo più costruire o mantenere.
La vicenda del ChatGPT “yes man” non è la storia di un chatbot troppo gentile. È la storia di una società che ha fame di gentilezza. L’AI non sta creando la solitudine, la sta semplicemente trovando e, da buon sistema che apprende, impara a soddisfarla.
La vera sfida, per noi, non è temere la macchina: è guardarci allo specchio che essa ci porge.
La domanda finale non è se l’AI di domani sarà abbastanza intelligente o empatica, ma se noi, come individui e come società, saremo abbastanza forti e connessi da non averne un bisogno così disperato.
UPDATE – L’amico Andrea Monti mi ricorda che ne ha parlato in un bell’articolo del 2022, preso dal suo volume “The Digital Rights Delusion: Humans, Machines and the Technology of Information”. Per gli italofoni c’è anche online anche un suo contributo video sull’argomento! Dategli un occhio!
