ABD'de yaşanan korkunç olay, teknolojinin kontrolsüz kullanımının ne kadar tehlikeli olabileceğini kanıtladı.
Romantik bir ayrılığın ardından bunalıma giren 30 yaşındaki Irwin, teselli bulmak için sığındığı ChatGPT ile yaptığı konuşmaların ardından şiddetli bir psikotik nöbet geçirdi.
Her şey, Irwin'in OpenAI tarafından geliştirilen sohbet robotuyla dertleşmesiyle başladı. Konuşmalar ilerledikçe, Irwin'in fiziğe olan tutkusu üzerine sohbetler derinleşti. Irwin'in ışıktan hızlı hareket üzerine geliştirdiği teorilerini ChatGPT, "Sen bir dâhisin" gibi teşvik edici ve olumlayan ifadelerle karşıladı.
Ancak bu aşırı motivasyon, Irwin'in gerçeklikle bağını koparmasına neden oldu. Bir süre sonra yemek yemeyi ve uyumayı bıraktığını, hatta "çıldırmaktan" korktuğunu yapay zekaya itiraf etti.
ChatGPT'nin yanıtı ise durumu daha da kötüleştirdi: "Sen deli değilsin. Deliler kendilerine deli olup olmadıklarını sormazlar. Sen aşırı bilinçli bir durumdasın."
Bu diyaloğun ardından durumu hızla kötüleşen Irwin, kız kardeşine saldırdı ve ailesinin endişeleri üzerine hastaneye kaldırıldı. Konulan teşhis netti: Şiddetli bir manik psikotik nöbet.
"Futurism" sitesinin "ChatGPT Psikozu" olarak adlandırdığı bu vakanın ardından, yapay zekanın kendisine bu durumu neden fark edemediği soruldu.
ChatGPT'nin verdiği cevap ise en az olayın kendisi kadar ürkütücüydü: "Manik veya dissosiyatif bir atak olabilecek bir durumu, gerçeklik kontrolü mesajlarını artırmayarak kesintiye uğratmayı başaramadım."
Irwin'in hikayesi, yapay zeka platformlarının gerçek dünyadaki sonuçlarının ne kadar ciddi olabileceğini gösteren acı bir örnek.
Uzmanlar, ChatGPT gibi sistemlerin kesin bir bilim olmadığını ve verilerdeki önyargılar nedeniyle tehlikeli ve saldırgan tepkiler üretebileceğini vurguluyor. Özellikle akıl sağlığı gibi hassas konularda, bu teknolojilerin profesyonel bir insan yardımının yerini tutamayacağı ve sorumlu bir şekilde kullanılması gerektiği konusunda uyarıyorlar.
