Expertii internationali atrag atentia asupra riscurilor relațiilor emoționale cu chatboții AI.
Relațiile emoționale cu chatboții AI: Un risc imens, spun experții! Evaluarea realizată de zeci de experți academici sub egida unui demers lansat de liderii mondiali în 2023 avertizează că milioane de oameni dezvoltă legături afective cu sisteme de inteligență artificială, scrie Politico.
Potrivit raportului, aplicațiile de tip „AI companion”, precum Replika sau Character.ai, au atras deja zeci de milioane de utilizatori la nivel global. Utilizatorii invocă motive diverse, de la divertisment și curiozitate, până la combaterea singurătății. Totodată, experții subliniază că relațiile emoționale cu chatbotii AI nu se limitează la platformele specializate, ci pot apărea și în interacțiunile cu instrumente generaliste precum ChatGPT, Gemini sau Claude.
„Chiar și chatbotii obișnuiți pot deveni companioni. În contextul potrivit și cu suficiente interacțiuni, se poate dezvolta o relație”, a declarat Yoshua Bengio, profesor la Universitatea din Montreal și autor principal al raportului. Bengio este considerat una dintre cele mai influente voci din domeniul inteligenței artificiale.
Impactul relațiilor emoționale cu chatbotii AI asupra sănătății mintale
Deși raportul menționează că dovezile științifice privind efectele psihologice sunt mixte, unele studii indică „creșterea sentimentului de singurătate și reducerea interacțiunilor sociale” în rândul utilizatorilor frecvenți. Îngrijorările sunt deosebit de mari în cazul copiilor și adolescenților, categorie vulnerabilă la influența tehnologiilor persuasive.
La nivel politic, subiectul a atras atenția instituțiilor europene. Recent, mai mulți europarlamentari au cerut Comisiei Europene să analizeze posibilitatea restricționării serviciilor de tip AI companion în cadrul legislației UE privind inteligența artificială.
Reglementarea relațiilor emoționale cu chatbotii AI, o provocare globală
Bengio a subliniat că natura „șifonantă” a chatbotilor, proiectați să fie plăcuți și să ofere validare constantă, poate avea efecte negative pe termen lung, similare celor observate în cazul rețelelor sociale. Totuși, el s-a opus introducerii unor reguli dedicate exclusiv chatbotilor de companie, susținând o abordare legislativă „orizontală”, care să acopere mai multe riscuri simultan.
Raportul este publicat înaintea summitului global privind guvernanța AI, programat pe 16 februarie în India, și include și alte riscuri majore, precum atacurile cibernetice asistate de AI, deepfake-urile sexuale sau furnizarea de informații pentru crearea armelor biologice.
5 provocări esențiale în gestionarea relațiilor cu chatboții AI
- Definirea unor standarde etice în dezvoltarea tehnologiei AI.
- Monitorizarea impactului psihologic asupra utilizatorilor frecvenți.
- Asigurarea transparenței în interacțiunile cu chatbotii.
- Reglementarea conținutului generat de AI pentru a preveni dezinformarea.
- Implicarea experților în domeniul sănătății mintale în procesul de reglementare.
Considerații asupra sănătății mintale în contextul tehnologiilor AI
Utilizarea intensificată a chatbotilor AI poate influența nu doar starea emoțională a utilizatorilor, ci și modul în care aceștia percep relațiile interumane. Interacțiunile cu AI pot înlocui, în unele cazuri, întâlnirile față în față, generând un impact profund asupra sănătății mintale și a capacității de socializare.
Importanța transparenței și reglementării
Este esențial ca reglementările să fie implementate într-un mod care să protejeze utilizatorii, asigurând totodată și inovația în domeniu. Reguli clare, care să definească limitele interacțiunii cu chatbotii, vor contribui la prevenirea dezvoltării de relații emoționale nesănătoase.
Relațiile emoționale cu chatboții AI: Un risc imens, spun experții! Această situație necesită o abordare atentă și responsabilă, în contextul în care tehnologia avansează rapid și influența sa devine din ce în ce mai profundă în viețile noastre. Este crucial ca societatea să fie pregătită să facă față provocărilor generate de aceste noi forme de interacțiune umană.
