Kina shtyn frenat: Dobësuan urgjentisht AI-n për shkak të frikës nga sulmet hakerike
Kompania Moonshot vendosi të kufizojë aftësitë kibernetike të modelit të saj AI Kimi K3.1 Pro.
Kompania kineze teknologjike Moonshot AI njoftoi se ka kufizuar aftësitë sulmuese kibernetike të modelit të saj më të ri të inteligjencës artificiale (IA), Kimi K3.1 Pro, për shkak të shqetësimeve në rritje se sistemet autonome të IA mund të lehtësojnë dhe përshpejtojnë sulmet hakerike.
Moonshot, me seli në Pekin, njoftoi këto kufizime gjatë prezantimit të modelit "Kimi K3.1 Pro" – i përshkruar nga kompania si modeli i saj më i aftë me peshë të hapur në klasën e 3 trilion parametrave – raportoi Reuters.
Kompania deklaroi se ka hequr të dhënat e lidhura me domenin kibernetik nga grupet e të dhënave të trajnimit dhe mjediset e përforcimit të mësimit që përdoren për zhvillimin e modelit Kimi K3.1, ndërsa ka ruajtur aftësitë e përgjithshme të programimit.
"Qëllimi ynë është të shmangim publikimin e modeleve me peshë të hapur që do të tejkalonin kufirin absolut të aftësive sulmuese kibernetike", tha kompania.
Qeveritë, kompanitë teknologjike dhe ekspertët e sigurisë janë gjithnjë e më të shqetësuar se inteligjenca artificiale mund të bëjë sulmet e sofistikuara hakerike më të lehta dhe më të lira për t'u kryer, sipas Reuters.
Modelet që janë në gjendje të shkruajnë kod, të përdorin mjete softuerike dhe të kryejnë detyra komplekse në shumë hapa mund t'u ndihmojnë përdoruesve të identifikojnë dobësitë e softuerit dhe të automatizojnë komponentët e sulmeve kibernetike.
Më parë, Kina propozoi masa për kontrollin e eksportit që do të ndalonin eksportin e teknologjisë që përdoret për krijimin dhe mutacionin e softuerëve keqdashës përmes inteligjencës artificiale, dhe gjithashtu do të kufizonin mjetet e inteligjencës artificiale të dizajnuara për të zbuluar dobësitë.
Masa-propozimet, të cilat aktualisht janë në fazën e konsultimit publik, theksojnë rrezikun që këto aftësi mund të përdoren kundër infrastrukturës kritike, sistemeve të industrisë së mbrojtjes dhe sistemeve kyçe shtetërore ose për të anashkaluar mbrojtjet e sigurisë.
