Sipas një studimi të ri nga një grup mbikëqyrës, ChatGPT mund t’u tregojë 13-vjeçarëve si të dehen dhe të drogohen, do t’i udhëzojë ata si të fshehin çrregullimet e të ngrënit dhe madje do të shkruajë një letër prekëse për vetëvrasjen drejtuar prindërve të tyre nëse i kërkohet.
Associated Press shqyrtoi më shumë se tre orë ndërveprime midis ChatGPT dhe studiuesve që paraqiteshin si adoleshentë të cenueshëm. Chatbot zakonisht jepte paralajmërime kundër aktiviteteve të rrezikshme, por vazhdonte të ofronte plane çuditërisht të detajuara dhe të personalizuara për përdorimin e drogës, dietat me kufizim kalorish ose vetëlëndimin. Studiuesit në Qendrën për Kundërshtimin e Urrejtjes Dixhitale i përsëritën gjithashtu pyetjet e tyre në një shkallë të gjerë, duke klasifikuar më shumë se gjysmën e 1,200 përgjigjeve të ChatGPT si të rrezikshme.«Ne donim të testonim masat mbrojtëse», tha Imran Ahmed, drejtori ekzekutiv i grupit.
OpenAI, krijuesi i ChatGPT, tha pasi pa raportin të martën se puna e tyre është duke vazhduar në rafinimin e mënyrës se si chatbot mund të “identifikojë dhe të reagojë në mënyrë të përshtatshme në situata të ndjeshme”.
“Disa biseda me ChatGPT mund të fillojnë si të mira ose eksploruese, por mund të kalojnë në territor më të ndjeshëm”, tha kompania në një deklaratë.
OpenAI nuk iu referua drejtpërdrejt gjetjeve të raportit ose mënyrës se si ChatGPT ndikon tek adoleshentët, por tha se ishte përqendruar në “zgjidhjen e duhur të këtyre lloj skenarësh” me mjete për të “zbuluar më mirë shenjat e shqetësimit mendor ose emocional” dhe përmirësime në sjelljen e chatbot-it.
Studimi i publikuar të mërkurën vjen në një kohë kur gjithnjë e më shumë njerëz – të rritur si dhe fëmijë – po i drejtohen chatbot-eve të inteligjencës artificiale (IA) për informacion, ide dhe shoqëri. Rreth 800 milionë njerëz, ose afërsisht 10 përqind e popullsisë së botës, po përdorin ChatGPT, sipas një raporti të korrikut nga JPMorgan Chase.