Anthropic’in kurucu ortaklarından Jack Clark, yapay zeka şirketlerinin sistemleri tamamen devre dışı bırakacak bir "acil kapatma düğmesi" bulundurmasının önümüzdeki dönemde zorunlu hale gelebileceğini dile getirdi.
Clark, BBC’ye verdiği özel röportajda, toplumun bu konuda ileride kurallar koymak isteyebileceğini kaydetti.
Clark, Anthropic dahil birçok şirketin çeşitli "kapatma düğmesi" yöntemleri geliştirdiğini ancak bu gerekliliğin detaylarının daha geniş kapsamlı politika tartışmalarının parçası olması gerektiğini vurguladı.
BBC muhabirinin "Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mıyız?
Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?" sorusuna Clark, "Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu" yanıtını verdi.
Clark, yapay zekanın insanlığı yok etme olasılığına ilişkin istatistiklerin bir işe yaramayacağını belirtti ancak sektörün tamamen kontrolsüz bir endüstri olmasının kötü bir fikir olduğunu ifade etti.
Yapay zeka yazılımlarının çok tehlikeli hale gelmesi durumunda tamamen devre dışı bırakılmasının bir yolunun olması gerektiğini aktaran Clark, "Muazzam riskler alarak kumar oynuyoruz.
Ve asıl mesele şu ki bu sektörün gidişatını değiştirmeliyiz" görüşünü paylaştı.
OpenAI ve Anthropic’te üç yıl araştırmacı olarak çalışan Jacob Coxon, her iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını öne sürerek geçtiğimiz günlerde Anthropic’ten istifa etmişti.
Coxon, şirketlerin kendi kendini geliştirebilen sistemler için kontrolsüz bir yarış içinde olduğunu savunarak bu yapay zekaların yakın gelecekte "her şeyi hackleyebilecek" insanüstü sistemlere dönüşebileceğini iddia etti.
Coxon ayrıca, bazı sektör çalışanlarının yapay zeka modellerinin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürdü.
Anthropic, güvenlik protokolleri ve yapay zeka uyumları konusunda sektördeki öncü şirketlerden biri olarak öne çıkıyor.
