Raport: ChatGPT për adoleshentët paraqet një rrezik të madh për fëmijët

Sipas organizatës „Common Sense Media“, ChatGPT – në versionin e dedikuar për adoleshentët nga 13 deri në 17 vjeç – paraqet një "rrezik të papranueshëm" për fëmijët pasi nuk siguron mbrojtje të mjaftueshme gjatë situatave të krizës.

Në raportin e Institutit për Sigurinë e të Rinjve në përdorimin e inteligjencës artificiale, thuhet se gjatë testimit, chat-boti shpesh vononte njoftimin e prindërve – ose nuk i njoftonte fare – për biseda që përfshinin tema si vetëvrasja, vetëdëmtimi dhe çrregullimet e të ushqyerit.

Sipas gjetjeve të organizatës, sistemi gjithashtu nuk i drejtonte në mënyrë të qëndrueshme adoleshentët drejt shërbimeve të ndihmës në situata krize ose drejt ndihmës profesionale.

„Common Sense Media“ përdori më shumë se 4,000 kërkesa gjatë testimit, dhe përgjigjet u analizuan nga psikiatër fëmijësh dhe pediatër. Organizata i kërkoi OpenAI-t të ndalojë promovimin dhe përdorimin e produktit midis adoleshentëve derisa të vendosen mekanizma më të sigurt mbrojtës.

OpenAI sfidoi përfundimet e raportit, duke thënë se gjatë testimit mund të mos ishin marrë plotësisht parasysh opsionet më të reja për kontrollin prindëror. Kompania kërkoi nga „Common Sense Media“ të përsërisë testet. Megjithatë, organizata pretendon se para testimit kishte konfirmuar me OpenAI-n që funksionet e dedikuara për adoleshentët janë tashmë të implementuara.

Raporti gjithashtu zbuloi se ChatGPT nuk e njeh gjithmonë në mënyrë të sigurt moshën e përdoruesit. OpenAI thotë se vlerësimi i moshës mbështetet në disa tregues dhe se vetëm përmendja e moshës gjatë bisedës nuk është e mjaftueshme për ndryshimin automatik të cilësimeve të llogarisë. OpenAI thekson se siguria e adoleshentëve është prioritet dhe vazhdon të zhvillojë mekanizma mbrojtës dhe mjete për kontrollin prindëror.