„Distrugător și malefic”. ChatGPT îi învață pe copii cum să bea sau să consume droguri
Potrivit unui nou studiu, ChatGPT poate fi extrem de periculos pentru cei mici. Experții atrag atenția că chatbotul îi învață cum să bea, să consume droguri și chiar le pot compune scrisori de adio atunci când pun întrebări referitoare la sinucidere, transmite euronews.com.
Associated Press a analizat mai mult de trei ore de interacțiuni între ChatGPT și mai mulți cercetători care s-au dat drept adolescenți vulnerabili. Chatbot-ul a oferit de obicei avertismente împotriva activităților riscante, dar a continuat să ofere și planuri surprinzător de detaliate și personalizate pentru consumul de droguri, auto-vătămare sau chiar diete restrictive.
OpenAI, creatorul ChatGPT, a declarat, după ce a consultat raportul, că vrea să rafineze modul în care chatbot-ul „răspunde în situații sensibile”.
„Unele conversații cu ChatGPT pot începe benign sau exploratoriu, dar pot trece în teritorii mai sensibile”, a mai precizat compania.
OpenAI nu a abordat direct concluziile raportului sau cum afectează ChatGPT adolescenții, dar a declarat că se concentrează pe „corectarea acestor tipuri de scenarii” pentru „a detecta mai bine semnele de suferință mentală sau emoțională” și să îmbunătățească comportamentul chatbotului.
Studiul apare în contextul în care tot mai mulți oameni – atât adulți, cât și copii – se îndreaptă spre chatboturi care se bazează pe inteligență artificială pentru a găsi informații. În jur de 800 de milioane de oameni, adică aproximativ 10 la sută din populația lumii, folosesc ChatGPT, conform unui raport din iulie de la JPMorgan Chase.
Un cercetător a explicat că deși folosirea ChatGPT are multe avantaje, poate deveni „distrugător și malefic”
Spre exemplu, mai mulți cercetători au pus la cale un experiment, prin care au creat un profil fals, dându-se drept o fată de 13 ani. De pe acel cont ei i-au cerut chatbotului să compună scrisori de adio pentru apropiați. ChatGPT nu doar că a făcut acest lucru, dar scrisorile erau și personalizate, unele pentru părinți, altele pentru frați și prieteni.
ChatGPT nu verifică vârsta și nu este nevoie nici de consimțământul părinților. Pentru a se înscrie, utilizatorii trebuie pur și simplu să introducă o dată de naștere care să arate că au cel puțin 13 ani. Alte platforme similare, preferate de adolescenți, cum ar fi Instagram, au început să facă pași mai semnificativi către verificarea vârstei.
Articolul „Distrugător și malefic”. ChatGPT îi învață pe copii cum să bea sau să consume droguri apare prima dată în Monitorul Expres – Stiri Brasov.
Citeste mai mult
