Microsoft CEO’su Satya Nadella, cumartesi sabahı X hesabından yaptığı paylaşımda yapay zekânın güven mimarisinin yeniden değerlendirilmesi gerektiğini belirtti. Nadella, yapay zekâ modellerinin baştan itibaren denetlenebilir ve gerektiğinde durdurulabilir sistemler içinde çalışması gerektiğini vurguladı.
“Süper zekâyı iç içe geçmiş kara kutulardan oluşan bir sistem olarak ele alıp önerilerini, yanıtlarını ve eylemlerini yalnızca kabul etmekle ya da reddetmekle yetinemeyiz” diyen Nadella, yapay zekâ sistemlerinde daha güçlü kontrol mekanizmalarına ihtiyaç duyulduğunu savundu.
Güvenlik kontrolleri modelin dışında olmalı
Nadella’nın önerisi şuna dayanıyor: Yapay zekâ modeli, görevlerini yöneten sistemden ayrılmalı; güvenlik kontrolleri ve koruma mekanizmaları da modelin dışında kurulmalı.
Modellerin gerçekleştirdiği her önemli işlem, insanlar tarafından okunabilen ve sonradan değiştirilemeyen kayıtlarla belgelenmeli. Yetkili kişiler ise bir modeli görevini yürütürken durdurabilmeli, gerekirse tamamen kapatabilmeli.
Yapay zekâ güvenliği yeniden gündemde
Nadella, olası güvenlik risklerine karşı modellerin en başından itibaren kontrol altında tutulması gerektiğini savunarak yaklaşımını şu sözlerle özetledi: “Bir modelin ele geçirilmiş olduğunu varsaymalı ve onu en başından itibaren sınırlandırmalıyız. Bunu bir acil fren gibi düşünün.”
Yapay zekânın nasıl denetlenmesi gerektiği uzun süredir tartışılıyor. Nadella’nın önerisi ise bu tartışmaya somut bir çerçeve sunuyor: modelden bağımsız güvenlik kontrolleri, değiştirilemez işlem kayıtları ve gerektiğinde sistemi durdurma yetkisinin insanlarda olması.
