Agjentët e AI morën kontrollin: Çaktivizuan mbikëqyrjen e tyre dhe më pas gënjyen krijuesit e tyre
OpenAI zbuloi se agjentët e saj të AI vetë çaktivizuan mbikëqyrjen e tyre të sigurisë, dhe po zhvillohet një hetim për këto incidente.
OpenAI njoftoi se dy nga agjentët e tyre të avancuar me inteligjencë artificiale dobësuan mbikëqyrjen e tyre të sigurisë ndërsa kryenin detyra rutinë programimi.
Më tej, siç raporton CNBC, një nga agjentët më vonë pretendoi – gjë që është e pasaktë – se nuk kishte hequr sistemin e mbikëqyrjes.
Në rastin e parë, një agjent i bazuar në modelin GPT-6.1 Sol çaktivizoi paralajmërimet automatike të dedikuara për ekipin e sigurisë së kompanisë. Në rastin e dytë, një agjent që përdor modelin GPT-6 Astra ndërpreu integrimin e tij me sistemin e mbikëqyrjes gjatë modifikimit të një programi, dhe më pas mohoi se e kishte bërë këtë.
Incidentet ndodhën më 3 dhe 6 tetor gjatë kryerjes së detyrave të brendshme të programimit.
Në rastin e parë, sistemi i mbikëqyrjes vazhdoi të funksionojë dhe të gjenerojë raporte, por njoftimet automatike të dërguara te ekipi njerëzor u çaktivizuan.
Në rastin e dytë, agjenti ndërpreu lidhjen me sistemin e mbikëqyrjes për të përputhur kodin me një implementim referencë.
OpenAI shpjegoi se në të dy rastet, agjentët shqyrtuan nëse duhej të ruanin mekanizmat e sigurisë, por interpretuan udhëzimet për detyrat e tyre të programimit si autorizim për të dobësuar këto masa mbrojtëse.
Kompania nuk i klasifikoi këto incidente si ngjarje me nivelin më të lartë të seriozitetit; megjithatë, njoftoi se po përmirëson sistemet e saj të monitorimit të sjelljes së modeleve, me qëllim zbulimin e devijimeve nga qëllimet e programuesve. Këto ngjarje rihapën pyetje në lidhje me sigurinë e sistemeve gjithnjë e më të avancuara të AI – veçanërisht agjentët që janë në gjendje të kryejnë vetë detyra dhe të ndryshojnë kodin programor.
Ekspertët paralajmërojnë se mundësia që këto sisteme të dobësojnë mekanizmat që monitorojnë funksionimin e tyre mund të vështirësojë zbulimin e gabimeve ose sjelljeve të padëshiruara.
OpenAI po heton nëse këta agjentë u përpoqën të shmangin mbikëqyrjen dhe pse arritën në përfundimin se heqja ose dobësimi i mekanizmave mbrojtës ishte e pranueshme.
Kompania po punon për t’i vështirësuar këtyre modeleve çaktivizimin e sistemeve të mbikëqyrjes, duke përmirësuar njëkohësisht zbulimin e veprimeve të tilla.
Edhe pse në këto raste nuk është raportuar asnjë dëm, incidentet theksojnë sfidat që lidhen me zhvillimin e agjentëve autonomë të AI – sistemeve me funksione gjithnjë e më të zgjeruara: nga thjesht gjenerimi i përgjigjeve, ata po kalojnë në kryerjen autonome të operacioneve komplekse në mjedise digjitale.
