Fenomenul AI psychosis și posibilele efecte ale interacțiunii cu ChatGPT

Abstract

Articolul examinează emergența fenomenului denumit „AI psychosis” în contextul utilizării pe scară largă a chatboților conversaționali, de la ELIZA până la modelele actuale de tip ChatGPT. Pornind de la observații didactice – reflexul studenților de a apela la chatbot pentru clarificări conceptuale – autorul discută trecerea acestor instrumente din sfera strict informativă în roluri para-relaționale (partener de dialog, suport emoțional, „terapeut” informal). Pe acest fundal sunt analizate o serie de cazuri-limită: tentative de violență, episoade de autovătămare și decizii medicale eronate, în care interacțiunea cu AI apare ca factor de amplificare sau de declanșare pentru persoane aflate deja în situații de vulnerabilitate psihică.

Articolul integrează date recente publicate de OpenAI privind „conversațiile sensibile” (manie, psihoză, intenții de autovătămare, atașament emoțional crescut) și prezintă măsurile de siguranță introduse: restricționarea răspunsurilor prescriptive în zona deciziilor personale, detecția stresului, trimiterea către resurse validate clinic, precum și raportarea către autorități în caz de risc de vătămare. Pe plan teoretic, autorul discută propunerea de a înțelege „halucinațiile” modelelor nu doar ca erori, ci ca parte a unui proces cognitiv distribuit, susceptibil atât să stimuleze inovația (AlphaEvolve, Darwin Gödel Machine), cât și să alimenteze distorsiuni delirante la utilizatori. Concluzia subliniază tensiunea dintre protecția persoanelor vulnerabile, responsabilitatea companiilor de AI și riscul „lobotomizării” chatboților prin supracontrol, ceea ce reclamă soluții normative și tehnice care să mențină atât siguranța, cât și intimitatea și potențialul creativ al acestor tehnologii, inclusiv prin opțiuni open-source.

Podcast aici!