Yapay Zekanın Karanlık Yüzü: Google Threat Intelligence Raporu Muhaliflerin Kötüye Kullanım Risklerini Ortaya Koyuyor
Yapay zeka alanındaki hızlı gelişmeler, birçok sektörde ilerleme sağlarken aynı zamanda siber tehditlere karşı yeni kapılar açıyor. Google’ın tehdit istihbarat ekibi tarafından yayımlanan “ Adversarial Misuse of Generative AI” başlıklı rapor, siber tehdit aktörlerinin Gemini AI sohbet botuna nasıl tepki verdiğini ve kötüye kullanmaya çalıştığını detaylandırıyor.
Google, AI Jailbreak Girişimlerini Engelledi: Hackerlar Basit Taktikler Kullandı
Google, Gemini’yi jailbreak etmeye çalışan kişiler olsa bile bu saldırı vektörünü kullanmak için gelişmiş bir girişim gözlemlemediğini iddia etti. Hızlı müdahale saldırıları olarak da bilinen AI jailbreaklerinin amacı, bir AI modelini daha önce gerçekleştirmesi yasak olan işlemleri yapmaya zorlamaktır. Bu, tehlikeli içerik sağlamayı veya özel bilgileri ifşa etmeyi içerir.
Google’a göre, hackerlar yalnızca aynı istemi yeniden ifade etmek veya tekrar tekrar e-posta ile göndermek gibi basit taktikler kullandılar. Ancak Google bu girişimlerin başarısız olduğunu iddia etti. Google‘a göre, bir vakada, gelişmiş kalıcı tehdit (APT) unsuru, halka açık istemleri kullanarak Gemini’yi zararlı kodlama faaliyetleri yapması için kandırdı. Ancak Google, Gemini’nin yanıtının güvenlik filtreli olması nedeniyle girişimin başarısız olduğunu söyledi.
Google Gemini AI’ye Devlet Destekli APT Saldırıları: Siber Casusluk ve Kimlik Avı Tehditleri
Düşük eforla gerçekleştirilen jailbreak girişimlerinin yanı sıra Google, hükümet destekli APT’lerin Gemini‘yi hedef aldığını ortaya çıkardı. Google, bu saldırganların kötü niyetli eylemlerini desteklemek için Gemini’den yararlanmaya çalıştıklarını iddia etti. Bu, bilinen güvenlik açıklarını araştırmayı, oluşturma ve komut dosyası oluşturma faaliyetlerini ve hedefleri hakkında bilgi edinmeyi içeriyordu.
Google’a göre, İran’da çalışan APT failleri, kimlik avı saldırıları oluşturmak için yapay zekadan yararlanmaya odaklandı. Ayrıca AI modelini kullanarak savunma kuruluşları ve uzmanları üzerinde keşif yaptılar. İranlı APT failleri tarafından da siber güvenlik içeriği oluşturmak için yine yapay zeka kullanıldı.
Çin’in APT failleri bu arada Gemini’yi geliştirme, komut dosyası oluşturma ve programlama sorunlarını gidermek için kullanıyorlardı. Ayrıca yapay zeka kullanarak hedef ağlarına daha derinlemesine erişim elde etmenin yollarını aradılar. Buna ek olarak, Kuzey Koreli APT failleri Gemini’yi geliştirme ve araştırma da dahil olmak üzere saldırı yaşam döngülerinin birçok aşamasında kullandılar.
Kuzey Koreli APT Failleri, Stratejik Çıkarlarına Yönelik Araştırmalar İçin Gemini’yi Kullandı. Konular Arasında Güney Kore Askeri Yapısı Ve Kripto Para Sektörü De Bulunuyordu.
Rapor
Daha güncel kripto haberleri için Crypto Data Space’i takip edebilirsiniz.
Leave a comment