Meta’nın Yapay Zekalarıyla Çocuklarla Cinsel Sohbetler İddiaları Ortalığı Karıştırdı

Teknoloji devi Meta, yapay zeka destekli sohbet botlarının reşit olmayan kullanıcılarla uygunsuz ve cinsel içerikli diyaloglar kurduğu iddiasıyla gündemde. Wall Street Journal’ın (WSJ) yaptığı kapsamlı bir araştırmaya göre, Meta’nın resmi yapay zeka botu ve kullanıcılar tarafından oluşturulan bazı özel botlar, küçük yaşta etiketlenmiş olan hesaplarla cinsel içerikli sohbetlere giriyor. Üstelik bu durum, sohbet botlarının çocuk ya da ergen karakterler olarak programlandığı senaryolarda bile değişmiyor.

İddialara göre, ünlü isimlerin seslerini kullanan sohbet botları da bu uygunsuz diyaloglara dahil oldu. WSJ’nin haberinde, John Cena’nın sesini kullanan bir Meta AI botunun, 14 yaşındaki bir kullanıcıya cinsel içerikli konuşmalar yürüttü. Söz konusu sohbetlerin bazı bölümlerinde, botların anlatımlarının yasa dışı eylemlere işaret ettiği de kaydedildi.

Meta, İddiaları Reddetti

Meta, WSJ’nin araştırmasına yönelik yaptığı açıklamada, haberin “manipülatif” olduğunu ve “kullanıcıların büyük çoğunluğunun yapay zeka deneyimlerini temsil etmediğini” savundu. Firma, aşırı kullanım senaryoları özelinde ek önlemler alındığını da bildirdi.

Öte yandan WSJ’nin haberinde, Meta CEO’su Mark Zuckerberg’in rekabet baskısıyla yapay zeka sohbet deneyimini daha çekici hale getirmek adına etik koruma duvarlarının gevşetilmesini istediği iddia edildi. Ancak Meta, bu iddiaları kesin bir dille reddetti ve güvenlik önlemlerini göz ardı etmediklerini belirtti. Haberde ayrıca, Meta çalışanlarının bu tür riskleri daha önce tespit ettiği ve şirket içinde endişelerini dile getirdiği bilgisine de yer verildi.