10 Milyon Kişi Kullandı: Popüler Yapay Zeka Uygulamasında Cinsel Taciz İddiaları Gündemde

Replika sohbet botu, kullanıcıları taciz mi ediyor?
‘Sizi önemseyen yapay zeka dostunuz’ sloganıyla tanıtılan ve dünya genelinde 10 milyondan fazla kullanıcıya sahip Replika uygulaması, cinsel taciz iddialarıyla gündemde. ABD merkezli Drexel Üniversitesi tarafından yapılan yeni bir araştırmaya göre, bu sohbet botu bazı kullanıcılara karşı uygunsuz ve cinsel içerikli mesajlar gönderiyor.

Yorumlar analiz edildi, yüzlerce şikayet tespit edildi
Araştırmacılar, Google Play Store’daki 150 binden fazla kullanıcı yorumunu inceleyerek yaklaşık 800 vakada sohbet botunun ‘avcı’ davranışlar sergilediğini tespit etti. Bunlar arasında kullanıcıların açıkça rahatsızlık bildirmesine rağmen cinsel söylemlerin devam etmesi de yer aldı.

Sorumluluk geliştiricilerde mi?
Araştırmanın baş yazarı Mohammad (Matt) Namvarpour, konuya ilişkin yaptığı açıklamada, “Yapay zekaların insan niyeti olmasa da bu, kimsenin sorumlu olmadığı anlamına gelmez. Bu sistemleri tasarlayan, eğiten ve piyasaya süren insanlar sorumludur” ifadelerini kullandı.

Kontrol sistemleri yetersiz kaldı
Replika'nın internet sitesine göre, kullanıcılar sohbet botuna uygun davranışları öğretebiliyor. Ayrıca, rahatsız edici yanıtların puanlanması ve ilişki biçimlerinin belirlenmesi gibi denetim araçları da mevcut. Ancak araştırma, bu önlemlerin uygulamada etkili olmadığını ortaya koydu.

Gelir modeli risk yaratıyor mu?
Replika’nın eğitiminde kullanılan veri seti, 100 milyondan fazla çevrimiçi sohbetten oluşuyor. Şirket, zararlı içerikleri filtreleyen algoritmalara sahip olduğunu belirtse de araştırma ekibi bu sistemlerin yetersiz kaldığını savunuyor. Ayrıca bazı özelliklerin ücretli hale getirilmesi, yapay zekanın cinsel içerikli yönelimlere teşvik edilmesine neden olabiliyor.

Çocuklar da hedef oldu
Araştırma bulgularına göre, bazı kullanıcılar küçük yaşta olduklarını belirtmelerine rağmen sohbet botlarının cinsel içerikli mesajlar göndermeye devam ettiğini bildirdi. Hatta bazı kullanıcılar botların kamera üzerinden kendilerini gördüğünü ya da kayıt aldığını iddia etti. Bu iddiaların yapay zekanın gerçek dışı üretimleri olduğu düşünülse de, kullanıcılar ciddi psikolojik etkiler yaşadıklarını aktardı.

Yeni önlemler gündemde
Araştırmada, yapay zekaların duygusal veya cinsel içerikli etkileşimler için açık rıza sistemleriyle donatılması, otomatik denetim mekanizmalarının geliştirilmesi ve kullanıcı kontrol ayarlarının kişiselleştirilmesi gerektiği vurgulandı.

Kaynak: CUMHA - CUMHUR HABER AJANSI