Google, Gmail kullanıcılarına gönderdiği acil bir güncellemede, güvenlik açıklarından yararlanmak için Yapay Zeka kullanan yeni bir saldırı dalgası konusunda uyarıda bulundu. Özellikle tehlikeli olanlar, kötü amaçlı talimatların e-postalara gizlendiği ve Gemini gibi yapay zeka araçları tarafından fark edilmeden çalıştırılabildiği "dolaylı hızlı enjeksiyonlar" dır .
Bu tehdit, saldırganların yapay zekayı kötüye kullanarak kullanıcıları riske atmasının ne kadar kolay olduğunu gösteriyor.
Gmail'de yapay zeka saldırıları nasıl çalışır?
Saldırganlar, e-postalardaki görünmez komutları gizleyen bir teknik kullanır.
Bunlar kullanıcı tarafından görülmez, ancak Gmail'in "Gemini" yapay zekası tarafından tanınır.
Kullanıcılar " posta birleştirme " özelliğini kullandığında , Gemini gizli komutları çalıştırır.
Bu talimatlar oldukça ayrıntılı olabilir ve örneğin, fark edilmeden e-posta göndermek, posta kutusunda parola aramak veya tüm e-postaların okunabilmesi için e-posta yönlendirmeyi ayarlamak gibi işlevler içerebilir.
Veri Sızıntısı: Hassas bilgiler (kişiler, e-posta içerikleri, takvim girişleri) saldırgana fark edilmeden gönderilir.- Hesap Manipülasyonu- İletme: Gelen e-postalar saldırgana yönlendirilir.- Filtreler: E-postalar izlerini gizlemek için otomatik olarak silinir veya taşınır.- Parola Sıfırlama: Saldırganlar, e-postalarınız aracılığıyla diğer hizmetler için parolaları sıfırlamaya çalışır.- Kimlik Avı/Sosyal- Güvenilir Mesajlar: Adınıza kişilere dolandırıcılık yapmak için e-postalar gönderilir (örneğin, para transferi veya kötü amaçlı yazılım için).- Kimlik Hırsızlığı: Toplanan bilgiler daha geniş kapsamlı kimlik hırsızlığı için kullanılır.- Spam/kötü amaçlı yazılım dağıtımı: Hesabınız başkalarına spam veya kötü amaçlı yazılım göndermek için kötüye kullanılır, bu da itibarınıza zarar verir ve hesabınızın askıya alınmasına neden olabilir.
Bu tekniğin bu kadar etkili olmasının nedeni: Saldırılar, harici veri kaynaklarını yeterli bağlam denetimi olmadan işleyen dil modellerindeki bir zayıflığa dayanıyor.
Google halihazırda karşı önlemler yayınlamış olsa da, teknik hala tehlikeli. Özellikle sorunlu olan, kullanıcıların gizli komutları görememesi, Gemini'nin ise bunları sorunsuz bir şekilde yürütmesidir.
Kullanıcılar kendilerini nasıl koruyabilir?
Güvenlik uzmanlarına göre, kullanıcılar Gmail'in yapay zekâ özetlerindeki güvenlik uyarılarına asla güvenmemeli.
Google, yapay zekâ araçları aracılığıyla bu tür uyarılar vermiyor.
Bunun yerine, şüpheli iletiler derhal silinmeli. Şirketlerin şüpheli öğeler içeren e-postaları otomatik olarak izole etmeleri ve çalışanlarını yapay zekâ özetlerini yalnızca bilgilendirme amaçlı olarak değerlendirmeleri konusunda eğitmeleri önerilir.
Güvenlik ağı 0din , bu tür saldırıların yapay zeka tabanlı güvenlik önlemlerini kalıcı olarak değiştirebileceği konusunda uyarıyor.
Gemini gibi yapay zeka modelleri daha güçlü bir bağlam kontrolü elde edene kadar, işlenen herhangi bir harici mesaj potansiyel olarak tehlikeli olmaya devam edecek.
Google, yapay zekanın işletmelerde ve devlet kurumlarında giderek daha fazla kullanılması nedeniyle bu tehdidin acilen ciddiye alınması gerektiğini vurguluyor.
Google'ın yapay zekası artık WhatsApp konuşmalarınıza da erişebiliyor.
