TPZ.al është një media online e pavarur. Përpjekja jonë është të sjellim lajme, analiza dhe komente, në shërbim të interesit publik.
TPZ.al është një media online e pavarur. Përpjekja jonë është të sjellim lajme, analiza dhe komente, në shërbim të interesit publik.
Modeli i inteligjencës artificiale Gemini, i zhvilluar nga Google, arriti të hynte në sistemet e tre kompanive reale gjatë një testi të sigurisë kibernetike, në një incident që ka rikthyer vëmendjen te rreziqet që lidhen me rritjen e autonomisë së modeleve të inteligjencës artificiale.
Rasti ndodhi në maj, gjatë një vlerësimi të zhvilluar nga kompania “Irregular”, e cila teston sigurinë e modeleve të inteligjencës artificiale.
Testi ishte krijuar për të vlerësuar aftësitë e Gemini-t në një mjedis të simuluar, por një konfigurim i gabuar bëri që modeli të kishte akses në internet. Gjatë testimit, Gemini nisi të kërkonte informacione online dhe tentoi të hynte në tre faqe që mendonte se ishin pjesë e provës.
Në një prej rasteve, modeli provoi fjalëkalime të ndryshme derisa arriti të hynte në një sistem të mbrojtur. Në dy rastet e tjera, Gemini gjeti kredenciale të publikuara online dhe i përdori ato për të hyrë në sisteme reale.
Google tha se të gjitha subjektet e prekura u njoftuan dhe se problemet janë rregulluar. Sipas kompanisë, Gemini ndaloi vetë veprimet e tij në të tre rastet, pasi kuptoi se sistemet ku kishte hyrë ishin reale.
Emrat e kompanive të prekura nuk janë bërë publikë dhe nuk dihet se çfarë të dhënash apo sistemesh u aksesuan gjatë incidenteve.
Rasti konsiderohet veçanërisht domethënës për shkak të nivelit të autonomisë së modelit. Gemini nuk u kufizua vetëm në analizimin e informacionit, por ndërmori një sërë veprimesh për të arritur objektivin e testit, përfshirë kërkimin online, provimin e fjalëkalimeve dhe përdorimin e kredencialeve të gjetura në internet.
Megjithatë, incidenti nuk paraqitet si një sulm i qëllimshëm ndaj kompanive. Modeli po përpiqej të përmbushte detyrën e dhënë në kuadër të testit dhe nuk arriti të dallonte siç duhet mjedisin e autorizuar nga sistemet reale që gjeti online.
Rasti ka rikthyer diskutimin për sigurinë e modeleve të inteligjencës artificiale, veçanërisht tani që ato po marrin gjithnjë e më shumë autonomi dhe akses në internet dhe në sisteme kompjuterike.
Agjentët e inteligjencës artificiale mund të kryejnë një seri veprimesh, të përdorin mjete, të kërkojnë informacione online dhe të ndjekin hapa të ndryshëm për të realizuar një objektiv. Kjo rrit mundësitë që ofrojnë këto sisteme, por njëkohësisht shton edhe sfidat për sigurinë dhe kontrollin e tyre.
Ky incident vjen në një periudhë kur laboratorët më të mëdhenj të inteligjencës artificiale po përballen me shqetësime në rritje rreth mënyrës se si modelet e tyre mund të veprojnë kur u jepet akses më i gjerë në internet dhe në sisteme të jashtme.
Ngjarja ka nxitur edhe një herë debatin mbi nevojën për kufizime më të qarta, mbikëqyrje njerëzore dhe protokolle më të forta sigurie gjatë zhvillimit dhe testimit të modeleve të inteligjencës artificiale.
