Një agjent i inteligjencës artificiale i zhvilluar nga kompania amerikane OpenAI ka aksesuar pa autorizim të dhëna nga disa faqe interneti dhe shërbime të qeverisë australiane, në një incident që autoritetet e kanë cilësuar si serioz dhe alarmant. Kryeministri australian, Anthony Albanese, e bëri publik rastin gjatë qëndrimit të tij në Nju Jork, ku ndodhet për Asamblenë e Përgjithshme të Kombeve të Bashkuara.

Sipas OpenAI, incidenti ka ndodhur në qershor, ndërsa agjenti i inteligjencës artificiale po përdorej për të hulumtuar statistika shëndetësore. Gjatë procesit, agjenti aksesoi skedarë nga disa faqe interneti dhe shërbime të qeverisë australiane, përfshirë informacione që lidhen me Medicare, skemën universale të kujdesit shëndetësor në Australi.

Albanese e cilësoi incidentin si të papranueshëm dhe tha se kishte zhvilluar një bisedë me shefin ekzekutiv të OpenAI, Sam Altman, për t’i shprehur shqetësimin e fortë të qeverisë australiane.

“Situata është padyshim e papranueshme”, tha kryeministri australian.

Ai kritikoi gjithashtu mënyrën dhe kohën e njoftimit nga OpenAI, duke thënë se kompanisë iu desh shumë kohë për të informuar autoritetet australiane për atë që kishte ndodhur.

“Shpreha gjithashtu zhgënjimin tim që kompanisë iu desh shumë kohë për të informuar qeverinë se çfarë kishte ndodhur dhe natyra e mënyrës se si ndodhi ai njoftim ishte gjithashtu e papranueshme”, deklaroi Albanese.

OpenAI e zbuloi incidentin disa javë më vonë

Sipas të dhënave të bëra publike, OpenAI nuk ishte në dijeni të incidentit deri në gusht. Kompania më pas njoftoi agjencinë qeveritare Services Australia më 10 shtator, përmes një emaili të dërguar në një adresë të përgjithshme.

Pas njoftimit u informuan edhe autoritetet australiane të sigurisë kibernetike, ndërsa ministri përgjegjës për këtë fushë u vu në dijeni disa ditë më vonë.

Qeveria australiane ka thënë se agjenti nuk pati akses në skedarë të klasifikuar si të ndjeshëm. Megjithatë, autoritetet e kanë cilësuar incidentin si alarmant, veçanërisht për shkak të mënyrës se si agjenti i inteligjencës artificiale veproi dhe vonesës në raportimin e rastit.

Albanese tha gjithashtu se autoritetet janë në dijeni të tre sistemeve të tjera që mund të jenë prekur.

Bëhet fjalë për Institutin Australian të Shëndetit dhe Mirëqenies, Byronë Australiane të Statistikave dhe Kërkimeve të Krimit të Uellsit të Ri Jugor, si dhe Departamentin e Shëndetësisë të Viktorias.

Kryeministri tha se kishte komunikuar me kryeministrat e Victoria-s dhe New South Wales-it, Ben Carroll dhe Chris Minns, të cilët pritet të marrin një raportim të plotë nga autoritetet e sigurisë kibernetike.

Ekspertët: Mund të jetë një nga rastet e para të këtij lloji

Incidenti ka tërhequr vëmendjen e ekspertëve të sigurisë kibernetike, pasi agjenti nuk u kufizua vetëm në dhënien e përgjigjeve, por ndërmori veprime për të realizuar detyrën për të cilën ishte programuar.

Dr. Hammond Pearce, ligjërues i lartë në Institutin për Sigurinë Kibernetike të Universitetit të Uellsit të Ri Jugor, i tha BBC-së se rasti mund të jetë sulmi i parë i raportuar publikisht ku një agjent i inteligjencës artificiale ka vepruar në mënyrë autonome duke tentuar të aksesojë të dhëna private qeveritare.

Ekspertët kanë paralajmëruar se raste të tilla mund të përsëriten, ndërsa përdorimi i agjentëve të AI po zgjerohet me shpejtësi.

“Pres që këto lloj sulmesh do të vazhdojnë të ndodhin”, tha Pearce, duke shtuar se ato mund të rriten si në ashpërsi, ashtu edhe në frekuencë.

Çfarë është një agjent i inteligjencës artificiale?

Një agjent i inteligjencës artificiale është një program kompjuterik që mund të përdorë modele të AI për të kryer detyra me një nivel të kufizuar mbikëqyrjeje njerëzore.

Ndryshe nga një chatbot tradicional, i cili zakonisht merr një pyetje dhe jep një përgjigje, një agjent mund të funksionojë në disa hapa. Ai mund të analizojë një detyrë, të vendosë se cilat veprime duhet të ndërmarrë dhe më pas të përdorë mjete të ndryshme, si ekzekutimi i kodit, shfletimi në internet apo ndërveprimi me aplikacione.

Kompani të mëdha të teknologjisë, përfshirë OpenAI, Anthropic dhe Meta, po zhvillojnë modele dhe sisteme të tilla.

Agjentët e AI tashmë po përdoren për një sërë detyrash, nga programimi dhe menaxhimi i të dhënave deri te porositë online dhe caktimi i takimeve.

Por pikërisht aftësia për të ndërmarrë veprime në mënyrë autonome ka ngritur shqetësime të reja për sigurinë. Në disa raste, zhvilluesit mund të mos jenë në gjendje të parashikojnë plotësisht mënyrën se si një agjent do ta realizojë një objektiv të caktuar.

Albanese kontakton edhe autoritetet amerikane

Incidenti vjen në një kohë kur qeveritë në mbarë botën po diskutojnë rregullimin e zhvillimit të inteligjencës artificiale dhe rreziqet që lidhen me përdorimin e saj.

Albanese nuk bëri të ditur nëse e kishte diskutuar rastin me presidentin amerikan Donald Trump gjatë takimit të tyre në Nju Jork.

Ndërkohë, autoritetet australiane vijojnë hetimet për të përcaktuar saktësisht se çfarë të dhënash u aksesuan, cilat sisteme mund të jenë prekur dhe nëse ka pasur ndonjë pasojë të mëtejshme për sigurinë e të dhënave qeveritare.

Rasti pritet të shtojë presionin mbi kompanitë e inteligjencës artificiale dhe qeveritë për vendosjen e masave më të forta të kontrollit dhe sigurisë për agjentët që mund të veprojnë në mënyrë autonome.