Avustralya'da "Pilates World" isimli spor salonunun sahibi olan Rochelle Marinato, işletmesinin kampanyalarını da Instagram hesabı üzerinden yürütüyordu. Ancak yapay zekanın, Instagram'a yüklediği masum köpek fotoğrafını yanlış yorumlaması, hayatını bir anda kabusa çevirdi.
"İlk başta sadece küçük bir hata olduğunu düşündüm. Bir saat içinde çözeriz sandım" diyen Marinato, kısa süre sonra Meta'dan gelen mesajla şok yaşadı: “Hesabınız çocuk istismarı, çıplaklık ve kötüye kullanım politikalarını ihlal ettiğiniz için kalıcı olarak kapatılmıştır.”
YAPAY ZEKA FOTOĞRAFI YANLIŞ YORUMLADI
Meta'nın moderasyon sistemi tarafından yapılan bu değerlendirme tamamen yapay zeka destekliydi. Paylaşılan fotoğrafın sadece üç köpekten oluştuğunu belirten Marinato, 22 ayrı e-posta göndermesine rağmen hiçbir gerçek kişiyle iletişim kuramadığını söyledi:
"O fotoğrafa bakan herhangi bir insan onun masum olduğunu anlar. Ama Meta'da bir insana ulaşmak mümkün değil. Telefon yok, e-posta yok, hiçbir şey yok. Tam anlamıyla karanlıkta bırakıldım."
ZARARI 2 MİLYON TL'Yİ AŞTI
Hesap kapatılınca reklam kampanyaları, etkileşim ve müşteri iletişimi tamamen durdu.
"Gelirimiz üç hafta içinde yüzde 75 düştü. Geçen yılın aynı dönemine göre kıyasladım, toplamda 50 bin dolar (yaklaşık 2 milyon TL) zarara uğradım" diyen girişimci, hesaplarını geri alabilmek için üçüncü taraf bir firmaya ödeme yapmak zorunda kaldı.
"BU SADECE BENİM BAŞIMA GELMEDİ"
Marinato yaşadıklarının tekil bir olay olmadığını, Meta'nın moderasyon sisteminin dünyanın dört bir yanındaki küçük işletmeleri mağdur ettiğini iddia etti:
"Bu sistem bozulmuş durumda. Yapay zekanın bu kadar büyük güce sahip olup bu kadar hata yapması çok tehlikeli. Yokuş aşağı bir yoldayız."
