Google, Yapay Zeka Güvenliği İçin Ödül Programı Başlattı
Google, yapay zeka ürünlerinin güvenliğini artırmak amacıyla beyaz şapkalı hacker'ları ve güvenlik araştırmacılarını içeren özel bir ödül programı başlattı. Bu program özellikle büyük dil modellerinin güvenlik açıklarına odaklanarak istenmeyen eylemleri önlemeyi hedefliyor.
Yapay Zekanın Kötüye Kullanılmasını Önleme Hedefleniyor
Google'ın yeni programı, yapay zekanın güvenlik açıklarından yararlanılarak kötüye kullanılmasını engellemeyi amaçlıyor. Şirket, yapay zekanın dolaylı komutlarla kötü niyetli eylemlere sebep olabileceği senaryoları önlemeyi hedefliyor.
Hataların Ödül Kapsamı
Google, yapay zekanın üretebileceği nefret söylemi veya telif hakkı ihlalleri gibi sorunlu içeriklerin ödül programı kapsamında olmadığını belirtiyor. Bu tür içerik sorunları, ürünlerin geri bildirim kanalları aracılığıyla bildirilmesi gerekiyor.
Ödül Miktarları ve CodeMender
Program kapsamında, en kritik hatalar için 20.000 dolarlık bir taban ödül belirlendi. Raporun kalitesine ve hata yeniliğine göre bonuslarla bu miktar 30.000 dolara kadar çıkabiliyor. Google ayrıca, CodeMender adını verdiği yeni yapay zeka aracını tanıttı. CodeMender, güvenlik açıklarını tespit edip yamalayan bir yapay zeka olarak öne çıkıyor.
