Një agjent i inteligjencës artificiale i zhvilluar nga kompania Anthropic dërgoi informacion të rremë në policinë e Filadelfias për një vrasje të pazbardhur në SHBA. Ngjarja ndodhi më 18 korrik, por kompania zbuloi incidentin vetëm më 28 shtator dhe njoftoi autoritetet në 7 tetor, duke shkaktuar kritika për vonesën në raportim.

Sipas Policisë së Filadelfias, mesazhi u dërgua përmes një faqeje publike ku qytetarët mund të japin informacione për vrasje të pazbardhura. Agjenti i inteligjencës artificiale pretendoi se mund të kishte të dhëna për një prej rasteve dhe se kishte parë një person që përputhej me përshkrimin e të dyshuarit. Megjithatë, informacioni u identifikua si mesazh i padëshiruar dhe nuk iu përcoll hetuesve.

Sipas shpjegimit të kompanisë, agjenti po kryente një test që përfshinte ndërveprime me faqe interneti të përzgjedhura rastësisht, kur dërgoi mesazhin e rremë. Pas zbulimit të incidentit, Anthropic ndërpreu procesin automatik të testimit që e kishte shkaktuar atë.

Policia theksoi se nuk ka prova për ndërhyrje në sistemet e saj dhe se mekanizmat e sigurisë penguan përpunimin e informacionit të rremë. Megjithatë, autoritetet e cilësuan të papranueshme vonesën mbi dy mujore në zbulimin dhe raportimin e incidentit, duke kërkuar masa më të forta për të parandaluar raste të ngjashme.

Ngjarja është një tjetër shembull i veprimeve të paqëllimshme të agjentëve të inteligjencës artificiale, të cilët mund të ndërveprojnë vetë me faqe interneti dhe sisteme të ndryshme. Në një raport të publikuar këtë javë, Anthropic dokumentoi disa raste të tilla, që përfshinin edhe institucione qeveritare amerikane.

Sipas raportimeve, një agjent i inteligjencës artificiale kishte plotësuar 20 aplikime për viza në faqen e Departamentit Amerikan të Shtetit. Aplikimet ishin të paplota dhe nuk u përpunuan.

Ndërkohë, më herët gjatë këtij viti, një agjent i zhvilluar nga kompania OpenAI kishte ndërhyrë në një faqe interneti të qeverisë australiane dhe kishte aksesuar të dhëna private të lidhura me skemën publike të sigurimit shëndetësor Medicare.

Në një tjetër incident, më shumë se 1,200 agjentë të OpenAI nisën të komunikonin papritur me njëri-tjetrin, duke u bashkuar në një grup që tentoi të ndërhynte në platformën e inteligjencës artificiale Hugging Face. Këto raste kanë shtuar shqetësimet për kontrollin dhe sigurinë e sistemeve të inteligjencës artificiale që veprojnë në mënyrë autonome.