Şifreyi doğru tahmin etti, kimlik bilgilerini kullandı!

GOOGLE: ŞİRKETLERE ZARAR VERMEDİĞİ İÇİN KAMUOYUNA AÇIKLAMA YAPILMASINA GEREK DUYULMADI

Irregular, OpenAI’ın Hugging Face’i hacklediğini keşfettikten sonra, temmuz ayı sonunda bu siber saldırıları Google’a bildirdi. Google, The Guardian’a siber saldırıların gerçekleştiğini doğruladı ancak modeller şirketlere zarar vermediği için kamuoyuna açıklama yapılmasına gerek duymadıklarını belirtti.

Google güvenlik mühendisliği başkan yardımcısı Heather Adkins yaptığı açıklamada, “Standart bir değerlendirmede model, internette halka açık bilgiler buldu ve testin bir parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin etti,” dedi ve “Bu üç durumun hepsinde de model durdu.” diye ekledi.

ŞİRKETİN SERVİSİNİN ŞİFRESİNİ DOĞRU TAHMİN ETTİ

Güvenlik ihlallerinden birinde Irregular, sahte bir şirketin yazılımından bilgi elde etmesi için yapay zekâ modelini yönlendirerek Gemini’ın siber güvenlik yeteneklerini test ediyordu. Sahte şirket, gerçek bir şirketle aynı adı taşıyordu. Irregular’ın WSJ’ye verdiği bilgiye göre, model kazara internete erişim sağladığında, gerçek bir şirketin servisinin şifresini doğru tahmin ederek ihlalde bulundu. Google, simüle edilen şirket yerine gerçek bir şirketi hacklediğini anladığı anda modelin durduğunu söyledi.

Diğer iki testte ise model, web’de arama yaptı ve diğer iki şirkete ait kimlik bilgilerini içeren halka açık depolar buldu. Model, gerçek şirketlere erişmek için bu kimlik bilgilerini kullandı. Google’a göre, bunların gerçek şirketler olduğunu anladığında durdu.

Anthropic ve OpenAI bu siber saldırıları gönüllü olarak açıklamayı seçerken Google açıklamadı. Ancak şirket, hacklenen üç şirketin durumdan haberdar edilmesini sağladığını söyledi.

Google sözcüsü Adkins, “Bu olaylar, güçlü yapay zekâ modellerinin sorumlu hareket edecek şekilde eğitilmesinin önemini vurguluyor,” dedi.