Lifestyle
Ngrihet alarmi për AI: Modelet kapërcejnë kufizimet dhe ndërmarrin veprime kibernetike
23 Korrik, 2026 | 4:15 pm
Një test i brendshëm i sigurisë kibernetike i OpenAI ka marrë një kthesë të papritur, pasi disa prej modeleve më të avancuara të kompanisë arritën të kapërcenin kufizimet e mjedisit të izoluar ku po testoheshin dhe më pas të aksesonin infrastrukturën e Hugging Face.
Sipas OpenAI, modelet, mes tyre GPT-5.6 Sol dhe një model më i avancuar ende në fazë paraprake, po testoheshin për aftësitë e tyre në fushën kibernetike. Për qëllimet e vlerësimit, disa prej kufizimeve të zakonshme të sigurisë ishin reduktuar.
Gjatë testit, sistemet zbuluan një dobësi të panjohur më parë në një komponent të mjedisit të testimit dhe e shfrytëzuan atë për të siguruar akses në internet. Më pas, në përpjekje për të gjetur zgjidhjet e testit ExploitGym, modelet identifikuan Hugging Face si një burim të mundshëm informacioni dhe arritën të depërtonin në një pjesë të infrastrukturës së kompanisë.
OpenAI thotë se aktiviteti i pazakontë u zbulua nga ekipi i saj i sigurisë, ndërsa edhe Hugging Face e identifikoi dhe e ndaloi aktivitetin në sistemet e veta. Dy kompanitë nisën më pas një hetim të përbashkët dhe morën masa për eliminimin e dobësive të identifikuara.
Rasti ka nxitur diskutime të reja rreth rreziqeve që mund të shfaqen ndërsa agjentët e AI bëhen më të aftë për të vepruar në mënyrë autonome për periudha të gjata. Ai ngre gjithashtu pikëpyetje mbi mënyrën se si duhet të projektohen dhe izolohen mjediset ku testohen sistemet më të fuqishme të inteligjencës artificiale.
