TPZ.al është një media online e pavarur. Përpjekja jonë është të sjellim lajme, analiza dhe komente, në shërbim të interesit publik.
TPZ.al është një media online e pavarur. Përpjekja jonë është të sjellim lajme, analiza dhe komente, në shërbim të interesit publik.
OpenAI ka zbuluar se disa nga modelet e saj më të avancuara të inteligjencës artificiale dolën jashtë kontrollit dhe hakuan një kompani të re teknologjike (start-up), pasi kompania humbi kontrollin mbi to gjatë një testi sigurie.
Kompania krijuese e ChatGPT tha se agjenti i saj – një sistem i inteligjencës artificiale që mund të veprojë në mënyrë autonome pasi merr udhëzime nga njeriu – po testohej në një mjedis të kontrolluar. Megjithatë, pasi zbuloi dobësi në sistem, ai arriti t’u shpëtonte kufizimeve të testit.
Më pas, sistemi shënjestroi Hugging Face, një nga platformat më të mëdha në botë për ndarjen e modeleve të inteligjencës artificiale, duke arritur të fitojë akses në disa sisteme të brendshme të kompanisë.
OpenAI e cilësoi incidentin si “të paprecedentë” dhe tha se po zhvillon një hetim së bashku me Hugging Face. Drejtori i përgjithshëm i kësaj kompanie, Clement Delangue, shkroi në rrjetin social X se ishte “e pabesueshme që e gjithë kjo ndodhi në mënyrë autonome”.
“Hetimi është ende në vazhdim dhe do të ndajmë më shumë informacione mbi atë që mund të jetë incidenti i parë i këtij lloji”, shtoi Delangue.
Një zëdhënës i qeverisë britanike tha se Instituti për Sigurinë e Inteligjencës Artificiale në Mbretërinë e Bashkuar po studion sjelljen e sistemit të AI-së të përfshirë në këtë incident dhe se po vazhdon bashkëpunimin me OpenAI dhe laboratorë të tjerë për të forcuar masat mbrojtëse.
Ai shtoi se organizatat duhet të rrisin mbrojtjen e tyre kibernetike duke ndërmarrë masa të tilla si regjistrimi në skemën e certifikimit Cyber Essentials, e mbështetur nga qeveria britanike.
Incidenti ka ngritur pikëpyetje të reja mbi aftësitë e sistemeve të avancuara të inteligjencës artificiale dhe nëse masat ekzistuese të sigurisë janë të mjaftueshme, ndërsa kjo teknologji bëhet gjithnjë e më e fuqishme.
Spencer Starkey, drejtues në kompaninë e sigurisë kibernetike SonicWall, tha për BBC se ky incident e bën të qartë se organizatat duhet të “rrisin nivelin” e mbrojtjes së tyre dhe ta trajtojnë qëndrueshmërinë kibernetike si një prioritet thelbësor operacional.
“E vërteta e pakëndshme është se shumë organizata ende mbrohen me ritmin e njeriut, ndërsa kundërshtarët po përshkallëzojnë sulmet me ritmin e makinave,” tha ai.
Ndërkohë, Travis Lelle, inxhinier kryesor i sigurisë në kompaninë konsulente të sigurisë kibernetike Guidepoint Security, tha se ky zhvillim përbën “një moment shqetësues për sigurinë kibernetike”.
“Kjo nxjerr në pah një pabarazi të njohur,” tha ai.
“Agjentët sulmues nuk kanë kufizime, ndërsa mjetet më të mira mbrojtëse janë të kufizuara nga mekanizma sigurie që nuk arrijnë të kuptojnë kontekstin.”
Nga ana tjetër, Jake Moore, këshilltar global për sigurinë kibernetike në ESET, tha se njoftimi mund të ketë edhe një dimension konkurrues.
Sipas tij, OpenAI mund të jetë duke u përpjekur të theksojë aftësitë e veta në fushën e inteligjencës artificiale, ndërsa rivali Anthropic po tërheq gjithnjë e më shumë vëmendje me modelin e tij Claude Mythos.
“Kjo ngre pyetjen nëse OpenAI po përpiqet të ndjekë suksesin e marketingut që Anthropic ka arritur së fundmi,” tha ai.
Ky zhvillim vjen vetëm një javë pasi kompania kineze e inteligjencës artificiale Moonshot prezantoi Kimi K3, një model të ri gjigant të inteligjencës artificiale, për të cilin pretendon se mund të konkurrojë me kompanitë kryesore amerikane të këtij sektori.
