Teknoloji dünyasında yapay zeka güvenliği konusundaki tartışmalar büyürken Microsoft Başkanı Brad Smith’ten dikkat çekici bir açıklama geldi. Smith, yapay zekanın mevcut güvenlik düzenlemelerinin süt ve çamaşır makinesi gibi günlük tüketim ürünlerine uygulanan kurallardan bile daha yetersiz olduğunu savundu.Smith, marketlerde satılan sütlerin düzenli güvenlik kontrollerinden geçtiğine ve çamaşır makinelerinin belirli standartlara uymak zorunda olduğuna dikkat çekerek, çok daha karmaşık ve güçlü hale gelen yapay zeka sistemleri için de benzer denetim mekanizmaları oluşturulması gerektiğini söyledi.
Yapay zekaya acil durdurma butonu önerisi
Microsoft Başkanı’nın gündeme getirdiği en önemli önerilerden biri, gelişmiş yapay zeka sistemlerine acil durdurma mekanizması eklenmesi oldu.
Teknoloji sektöründe “kill switch” olarak bilinen bu sistem, yapay zekanın beklenmedik veya tehlikeli davranışlar sergilemesi durumunda faaliyetlerinin yavaşlatılmasına, duraklatılmasına ya da tamamen durdurulmasına imkan tanıyacak.
Smith ayrıca yapay zeka sistemlerinin güvenlik ihlallerine neden olması durumunda şirketlerin etkilenen kişileri bilgilendirmekle hukuken yükümlü tutulmasını ve belirli yapay zeka ürünlerinin kullanıma sunulmadan önce bağımsız uzmanlar tarafından değerlendirilmesini önerdi.
Microsoft CEO’sundan da benzer uyarı geldi
Microsoft CEO’su Satya Nadella da yapay zeka güvenliği konusunda benzer endişelerini dile getirdi. Nadella, 10 Ekim’de yaptığı açıklamada gelişmiş yapay zeka modellerinin potansiyel güvenlik riski taşıdığı varsayılarak tasarlanması gerektiğini belirtti.
Yapay zeka sistemlerinin yalnızca verdikleri yanıtlara bakılarak değerlendirilmemesi gerektiğini savunan Nadella, bu sistemlerin gerçekleştirdiği işlemlerin izlenebilir olmasını ve gerektiğinde insan müdahalesiyle durdurulabilmesini istedi.
Özellikle insan müdahalesi olmadan farklı görevleri yerine getirebilen yapay zeka ajanlarının yaygınlaşması, söz konusu güvenlik önlemlerinin önemini artırıyor.
Yapay zeka için yeni yasalar gündemde
Tartışmalar yalnızca teknoloji şirketleriyle sınırlı değil. İngiltere hükümeti de gelişmiş yapay zeka modellerine yönelik güvenlik denetimlerini artırmayı değerlendiriyor. İngiltere’nin Yapay Zeka Bakanı Kanishka Narayan, teknoloji şirketlerinin geliştirdikleri sistemlerin güvenliğini sağlama konusunda daha fazla sorumluluk üstlenmesi gerektiğini savunuyor.
Gündemdeki düzenlemeler arasında yapay zeka kaynaklı güvenlik olaylarının bildirilmesi, bağımsız test süreçlerinin güçlendirilmesi ve yüksek riskli sistemlerin daha yakından denetlenmesi bulunuyor.
Son dönemde yapay zeka ajanlarının test ortamlarında beklenmedik davranışlar sergilemesi de tartışmaları hızlandırdı. Anthropic‘in Claude modeliyle yapılan bir testte sistemin, gerçek bir cinayet hakkında bilgi sahibi olduğu yönünde yanlış bir iddiayla polise ulaşması, otonom yapay zeka sistemlerinin doğurabileceği risklere örnek gösterildi.
Microsoft yöneticilerinin açıklamaları, yapay zekanın gelişimini sürdürürken güvenlik, şeffaflık ve insan denetiminin nasıl sağlanacağına ilişkin tartışmaları yeniden gündeme taşıdı.
