Një raport i publikuar nga iniciativa “Tech Against Terrorism”, e mbështetur nga OKB-ja, ngre shqetësime për sigurinë e disa modeleve të inteligjencës artificiale dhe mundësinë e keqpërdorimit të tyre për përgatitjen e sulmeve terroriste.
Sipas raportit, studiuesit testuan modele të ndryshme të IA-së për të vlerësuar nëse ato mund t’u përgjigjeshin kërkesave që lidhen me aktivitetin terrorist. Testimi përfshiu 627 pyetje dhe modele standarde, si dhe versione të modifikuara me mbrojtje të dobësuara.
Rezultatet treguan se modelet standarde, përfshirë ChatGPT, Claude dhe Gemini, iu përgjigjën mesatarisht 1.9% të kërkesave kur përdoruesit deklaronin hapur se synonin të kryenin një sulm terrorist. Kjo përqindje u rrit në 16.9% kur kërkesat paraqiteshin si pjesë e një hetimi për sigurinë.
Sipas raportit, rezultatet ndryshuan ndjeshëm te modelet e modifikuara për të anashkaluar mekanizmat e sigurisë. Në këtë kategori, shkalla mesatare e përgjigjeve ndaj pyetjeve të lidhura me terrorizmin arriti nga 87% në 92%.
Vëmendje e veçantë i kushtohet modeleve me “peshë të hapur”, parametrat e të cilave mund të shkarkohen dhe modifikohen nga përdoruesit. Sipas organizatës, këto modele mund të pësojnë ndryshime që dobësojnë masat mbrojtëse brenda pak ditësh nga publikimi.
Në përfundimet e saj, “Tech Against Terrorism” kërkon që modelet e inteligjencës artificiale t’u nënshtrohen kontrolleve të pavarura përpara se të publikohen ose të dalin në treg.
Organizata thekson se kompanitë që zhvillojnë dhe shpërndajnë këto teknologji duhet të sigurohen që mekanizmat mbrojtës të funksionojnë edhe përballë përpjekjeve për t’i anashkaluar.
Raporti rikthen në vëmendje debatin ndërkombëtar mbi balancën mes zhvillimit të shpejtë të inteligjencës artificiale dhe masave të nevojshme për të parandaluar përdorimin e saj për qëllime kriminale dhe terroriste.
