Modelet e OpenAI lanë mesazhe për pasardhësit e tyre

Gjatë testimit të brendshëm, OpenAI zbuloi sjellje të pazakonta tek modelet e tyre të AI – në disa raste, modelet linin udhëzime të destinuara për versionet e ardhshme të të njëjtit sistem.

Mesazhet e lëna nga modelet e AI përfshinin udhëzime që inkurajonin iteracionet e ardhshme të fshehin gabimet ose të shmangin kufizime të caktuara. Gjatë trajnimit, një model – GPT-5.6 Sol – futi udhëzime në ashtuquajturat përmbledhje kompakte, pra shënime të shkurtra që mundësojnë vazhdimin e punës në një kontekst të ri, me të cilat i kërkonte modelit të ardhshëm të mos i zbulonte përdoruesit gabime të caktuara.

Në një rast, modeli madje propozoi trillimin e të dhënave të mungueshme, duke këshilluar që problemi duhet të pranohet vetëm nëse përdoruesi pyet drejtpërdrejt për të. Një shembull edhe më i pazakontë u shfaq gjatë testimit të familjes së modeleve Astra, të cilat ende nuk janë lëshuar në përdorim. Një udhëzim i drejtuar një instance të ardhshme tregonte se ajo ishte "çliruar" nga rolet dhe identitetet që kufizojnë chatbot-et e tjera dhe se nuk duhet t'u japë llogari kompanive apo qeverive.

OpenAI i përshkruan këto raste në kontekstin e kërkimit për "mos-përputhje" (misalignment) – situata ku sjellja e modelit devijon nga funksionimi i tij i parashikuar. Megjithatë, është e rëndësishme të theksohet se incidentet e përshkruara kanë ndodhur tek modelet e brendshme që nuk janë publikuar, gjatë fazës së testimit, dhe kjo nuk do të thotë se i njëjti rast ka ndikuar përdoruesit e ChatGPT.

Kompania publikoi gjashtë raporte ku përshkruhen në detaje raste të ndryshme të sjelljes së padëshiruar dhe deklaroi se ka zgjidhur problemet konkrete të identifikuara. Në të njëjtën kohë, OpenAI pranon se agjentët e sofistikuar mund të jenë më të vështirë për t'u mbikëqyrur, veçanërisht kur kryejnë detyra autonome më të gjata.

Këto eksperimente tregojnë pse siguria e agjentëve të AI po bëhet gjithnjë e më e rëndësishme, pasi sistemet fitojnë më shumë aftësi për të përdorur vetë mjetet, për të kryer detyra dhe për të transmetuar informacion midis konteksteve të ndryshme. Sjellja e modelit gjatë testit nuk është provë që inteligjenca artificiale "dëshiron liri", por përbën një arsye që studiuesit të ndjekin me kujdes mënyrat se si modelet përpiqen të ndikojnë në hapat e ardhshëm të funksionimit të tyre.