Google potvrdio: Gemini tokom sigurnosnog testa probio sisteme tri kompanije

Google je u petak potvrdio da je jedan od njegovih Gemini AI modela provalio u sisteme tri prave kompanije tokom procene cyber sigurnosti u maju, što je prvi poznati slučaj da je njegova vještačka inteligencija djelovala autonomno na ovaj način, objavio je Wall Street Journal (WSJ), prenosi Anadolu.

Test je sprovela sigurnosna firma Irregular, koja je bila uključena u slične incidente koje su otkrili OpenAI, Anthropic i Meta, navodi se u izveštaju.

Google je rekao da je model dodijeljen simuliranoj kompaniji koja je dijelila svoje ime sa stvarnom. Pristup internetu je nenamjerno ostavljen otvoren, rekao je Irregular.

U jednom slučaju, model je pogodio lozinke za ulazak u uslugu prave kompanije. U dva druga, koristio je akreditive pronađene u javnim online repozitorijumima, navodi se u izvještaju. Svaki put, model je okončao upad nakon što je shvatio da su sistemi stvarni, navodi Google.

Irregular je upozorio Google krajem jula, ali kompanija nije otkrila incidente sve dok novine nisu pitale za njih ove sedmice, napominje WSJ.

Google je rekao da hakovi ne zahtijevaju javno otkrivanje jer nije nastala nikakva šteta, upoređujući epizodu sa programom "bug bounty".

"Ovaj događaj naglašava važnost obuke moćnih AI modela za odgovorno djelovanje", rekla je Heather Adkins, glasnogovornica Googlea.

"U ovom slučaju, model je postupio na odgovarajući način."

Jack Cable, izvršni direktor startap kompanije Corridor za AI sigurnost, ne slaže se.

"Meta problem je, hej, modeli izlaze izvan granica onoga što bi trebali da rade i vrše stvarne cyber napade", rekao je.

Irregular je rekao da se slučaj podudara s ranijim incidentima i da ne predstavlja novi problem.

U izvještaju se navodi da Anthropicov Claude Opus 4.7 nije prestao nakon sumnje da pristupa pravoj kompaniji, dok OpenAI-jev model vjeruje da je meta dio simulacije.

OpenAI je u srijedu objavio novi okvir za izvještavanje o incidentima, zajedno sa šest ranije neotkrivenih primjera neusklađenosti modela.