OpenAI CEO'su Sam Altman, GPT-5 olması beklenen yeni nesil yapay zeka modelini test ederken yaşadığı bir anın kendisini dehşete düşürdüğünü itiraf etti.
Altman, teknolojinin ulaştığı hızı ve kontrolsüz ilerleyişini, atom bombasını geliştiren Manhattan Projesi fizikçilerinin yaşadığı tarihi endişeye benzeterek, "Beni gerçekten etkileyen bir an oldu. Bana Manhattan Projesi'ni hatırlattı" dedi.
Altman'ın endişesi, yapay zekanın kontrolden çıkıp çıkmadığına dair küresel tartışmaları yeniden alevlendirdi.
GPT-5'in endişe veren hızı
Sam Altman'ı bu kadar etkileyen şey, sadece yeni modelin gücü değil, aynı zamanda ilerleme hızı oldu.
Altman, "Bu sistemde onu gerçekten çok hızlı yapan bir şey var. Beni gerginleştiriyor" diyerek teknolojinin, insanların anlama ve yönetme kapasitesini aşan bir hıza ulaştığına işaret etti.
Ağustos başında lansmanı planlanan ve dahili testleri neredeyse tamamlanan GPT-5'in, belirli görevlerde şaşırtıcı derecede çevik ve otonom davrandığı belirtiliyor.
"Bunu durduracak kimse kalmadı"
Altman'ın endişelerinin merkezinde, teknolojiyi çevreleyen denetim boşluğu yatıyor. "Onu durduracak kimse kalmadı" diyerek durumu özetleyen CEO, yapay zekanın gelişim hızının, yasal düzenlemelerin çok önünde gittiğini vurguladı.
Uluslararası bir denetleyici kurumun, güvenlik standartlarının ve etik sınırların olmamasını bir "pilot olmadan ilerleyen yarışa" benzetti.
Altman'ın en çarpıcı ifadelerinden biri ise durumu özetler nitelikteydi:
"Odada 'Tamam, her şeyi durduralım. Keselim şunu.' diyen bir yetişkin yok." Bu sözler, sektör liderlerinin bile nereye gittiklerini tam olarak bilmedikleri bir teknoloji karşısındaki çaresizliğini ortaya koyuyor.
Tehlikeli olan model değil, yönetimsiz dağıtımı
Altman, bu sözleriyle GPT-5'in doğası gereği tehlikeli olduğunu iddia etmiyor. Ancak, kötü yönetilmesi durumunda bu teknolojinin dağıtımının tehlikeli olabileceği konusunda net bir uyarıda bulunuyor.
GPT-4'ün ikna edici halüsinasyonlar yaratabildiği, insanları taklit edebildiği ve kötü amaçlı kodlar üretebildiği düşünüldüğünde, bir sonraki sürümün potansiyeli haklı bir merak ve endişe konusu.
"Biraz korkmak iyi bir şey," diye tekrarlayan Altman, bu samimi itirafıyla aslında tüm dünyaya şu soruyu soruyor: Bu teknolojiyi şekillendirmek için hâlâ düşünecek vaktimiz var mı, yoksa artık yönetemediğimiz bir güce pasif bir şekilde eşlik etmeye mahkûm muyuz?
