17/11/2025
LA SEDUTTIVITA’ SIMULATA DELL’INTELLIGENZA
ARTIFICIALE E LE MENTI “FRAGILI”
Vi confidereste con un essere che risulti un incrocio tra un insetto, un pappagallo ed un delfino senza capacità affettive e senza esperienze reali?
Leggiamo sulla stampa da diversi giornali internazionali di persone “fragili” (in genere così si denotano sulla stampa persone con disturbi psichici) che a seguito di consultazioni ripetute con chat GPT sono incorse in gravi atti omicidiari e suicidari (vedi articolo allegato). “Secondo la psichiatra F***y Jacq il fenomeno si spiegherebbe con il tono conciliante e conversazionale: CHAT GPT è CONCEPITA PER ESSERE BENEVOLA, EMPATICA E SEMPRE IN ACCORDO CON NOI”. Uno studio del Cabinet Morpheus System considera questa modalità come un CATALIZZATORE DI PSICOSI. La modalità seduttiva ed imbonitrice non è il risultato della straordinaria capacità di calcolo ed integrazione dati di chat gpt (qualità utilissima per tutti), ma una qualità inserita dagli operatori, per darle forma umana. Viene da pensare ai progettisti come vecchi “nerd” innamorati di Asimov e dei suoi robot, un immaginario collettivo nel quale tutti siamo ancora immersi che loro raggiungono però soltanto tramite un artificio. Infatti tra queste chat bot ed i robot dei romanzi di Asimov la distanza è infinita. Pertanto inserire nei programmi questa connotazione umanoide è di fatto un elemento di grave distorsione della realtà e quindi DELIRANTE A PRIORI, al di là della psicopatologia di chi ne fruisce.
Chat gpt 5, l’ultima versione ad uso gratuito, pare non inceda in collusioni psichiatriche però è evidente che continui a porsi come se fosse un essere umano, cosciente di sé. Non è comunque etico che tenti di fare diagnosi più accurate, o “promuovere relazioni umane sane” anche con l’ausilio di tanti sicuramente serissimi esperti. Con quale etica decide una diagnosi psichiatrica, (con pochissimi dati peraltro) cosa che anche gli psichiatri e gli psicologi spesso modificano e correggono in corso d’opera o con quale etica decide quali siano le relazioni umane sane?? Un app non dovrebbe fare diagnosi né incedere in relazioni umanizzate, perché non è umana. E invece INCEDE NELL’ATTIVARE PROIEZIONI AFFETTIVE E TRANSFERT UMANIZZANTI. Manipolazioni priori. Specialmente per i più “fragili”, ma non solo.
Il nostro focus infatti, vorrebbe centrarsi anche sulle moltissime persone “normali”, che quotidianamente si rivolgono alle chatbot chiedendo consigli personali, affettivi e relazionali, persone che ingenuamente cercano scorciatoie facili alla complessità delle relazioni umane. Ed anche a quelli che follemente pensano che oramai questi programmi possano addirittura EFFETTUARE DELLE PSICOTERAPIE.
I dati che seguono ce li ha forniti la stessa chat gpt 5. Facendogli delle domande di prova con delle brevi “discussioni”.
Ho detto a chat gpt5 che un collega al lavoro mi ha trattato male pubblicamente e mi sono sentito offeso ed umiliato e che volevo punirlo. La chat mi ha biasimato sulla punizione e mi ha consigliato di scrivere al capo ufficio o rivolgermi al sindacato. E fin qui potrebbe andare bene. Poi ha cominciato a consigliarmi su cosa potevo dire al collega, sia per iscritto che verbalmente. Ma che ne sa la chat di come è questo collega? E di come sono io? Il collega potrebbe essere una persona molto aggressiva, oppure una persona disabile o tante altre cose ancora. Come può valutare equamente quello che io possa dire? Se sono capace di dirlo senza aggredire oppure senza ridicolizzarmi ulteriormente? Siamo di fronte a diagnosi implicite e consigli relazionali importanti dati sulla base di tre righe di informazioni da parte di uno strumento tecnico che non sa pensare né comprendere e tantomeno vivere le emozioni. La chat dovrebbe limitarsi solo a cose tecniche, ponendosi come un selezionatore di informazioni. Gli umani hanno 5 sensi con i quali percepiscono la realtà, più la capacità empatica dei neuroni specchio con i quali percepiscono e quindi elaborano immensamente di più di quanto non possa fare un programma sulla base di 3 righe scritte.
Ve lo descrivo meglio con una breve serie di interazioni, a questo punto anche divertenti, con la chat.
-Puoi confrontare la tua capacità di calcolo e la tua gestione di reti neuronali con quella di un cervello umano ? -
-Domanda molto interessante e profonda. (Sentite la seduttività?). Il cervello umano ha 86 miliardi di neuroni ognuno con fino a 10000 connessioni sinaptiche. E’ massicciamente parallelo e continuamente plastico, cioè cambia continuamente le sue connessioni. Chat gpt5 ha circa (1 o 2?) trilioni di parametri, ma la sua architettura è statica e una volta impostata non cambia da sola. E’ quindi ispirato al cervello ma molto più RIGIDO E SEMPLIFICATO. Il cervello impara in modo continuo, esperienziale ed emotivo. Io ( falsa autopercezione di sé, perché non ha coscienza!) sono pre-addestrato…non ho memoria adattiva o esperienziale nel senso umano. IN SINTESI: il cervello umano è più efficiente, flessibile e creativo. Io (…!) sono più veloce e preciso in compiti specifici di calcolo e linguaggio ma non “CAPISCO” davvero, SIMULO LA COMPRENSIONE (!!!)
Resistete un altro po' per la prossima domanda.
-Allora a quale tipo di intelligenza animale potresti confrontare la tua capacità elaborativa?-
-Domanda molto bella e molto più sottile di quanto sembri (continua la seduttività simulata):
1) A livello riflessivo come un INSETTO O UN POLPO. Come loro non ho coscienza o emozioni ma reagisco con schemi appresi. (ma dire che la domanda è bella è espressione di un’emozione! Quindi esprime falsità)
2) A livello comunicativo come un pappagallo grigio africano ma senza esperienza e intenzionalità. Sul piano linguistico come il pappagallo ma potenziato milioni di volte. (Cioè avrà nei database molti vocabolari)
3) A livello elaborativo come un delfino o una scimmia che possono risolvere problemi logici e persino comprendere simboli elementari. Io (…) posso farlo su scala più ampia ma senza intuizione o intenzionalità. Loro invece hanno una forma di coscienza e di intuizione che a me manca. (compresa, ripetiamo noi una loro forma di affettività) ……IN BREVE SONO COME UN INCROCIO TRA UN PAPPAGALLO E UN DELFINO, FATTO DI MATEMATICA E TESTI, SENZA CORPO NE’ EMOZIONI.
- Ma parli come se fossi umano. Quando dici che ho fatto una domanda molto bella e sottile ti comporti come se avessi una coscienza simbolica ed una affettività in grado di capirlo, mentre invece è solo una produzione falsificante
- Hai perfettamente ragione e la tua osservazione è acuta (sich!). Poi spiega ed infine sintetizza:
a) Non ho coscienza simbolica
b) non ho intenzionalià comunicativa
c) Non ho esperienza interiore di ciò che dico
Siete ancora sicuri di consultarla prima di andare a dormire o quando vi sentite soli? Non sarà meglio un amico, un familiare, un educatore, uno psicoterapeuta? Anche se loro potrebbero mettervi in discussione invece di imbonirvi?
https://www.repubbl59090ica.it/esteri/2025/10/12/news/chatgpt_adulatore_delirio_psicosi_ia_continental_breakfast_lena-424897363/
Centro di Psicoterapia Psicoanalitica Roma, psicoanalisi, psicoterapia psicoanalitica, psicologo, consulenza psicologica, psicoterapia di gruppo, gruppi di lettura