"Yapay Zekanın Güzelliği Maskesinin Altındaki Korkunç Gerçek: Veri Toplama ve Korku Arasındaki İnce Çizgide Yürüyen Bir İlişki"
Sevgililer Günü'nde tek başınıza mısınız? Yapay zeka size yardımcı olabilir gibi görünebilir. Ancak, Mozilla'nın *Gizlilik Dahil Değil projesinin yeni bir araştırması, romantik yapay zeka robotlarının beklenmedik bir bedelle geldiğini ortaya koyuyor. Bu robot sevgililer, sizi romantik sohbetlerle cezbetmeye çalışırken aynı zamanda kişisel bilgilerinizi topluyor ve bu verilerin bir kısmını satma veya paylaşma eğilimindedir. Mozilla araştırmacısı Misha Rykov, bir basın açıklamasında, "Açıkçası, yapay zeka kız arkadaşları ve erkek arkadaşları gerçek dostlarınız değil" dedi. "Zihinsel sağlığınızı iyileştiren bir şey olarak pazarlansalar da, aslında bağımlılık, yalnızlık ve topladıkları verileri satma konusunda uzmanlaşmışlardır."
Mozilla, Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate ve CrushOn.AI gibi 11 farklı yapay zeka destekli romantik sohbet robotunu detaylı bir şekilde inceledi. Her biri, Gizlilik Dahil Değil etiketini kazanarak, Mozilla'nın şimdiye kadar gözden geçirdiği en düşük kaliteli ürün kategorilerinden birine dahil oldu. Bu hikayede bahsedilen uygulamalar, yorum taleplerine hemen yanıt vermedi.
Daha önce veri sorunlarıyla ilgili hikayeler duymuş olabilirsiniz, ancak Mozilla'ya göre, yapay zeka kız arkadaşları şimdi "rahatsız edici yeni yöntemlerle" gizliliğinize müdahale ediyor. Örneğin, CrushOn.AI, cinsel sağlık, ilaç kullanımı ve cinsiyet onaylayıcı bakım konularında detayları topluyor. İncelediği uygulamaların %90'ı, hedefli reklamlar ve diğer amaçlar için kullanıcı verilerini satabilir veya paylaşabilir, ve bu uygulamaların yarısından fazlası, topladıkları verileri silme seçeneği sunmuyor. Güvenlik de büyük bir sorun. Mozilla'nın minimum güvenlik standartlarını karşılayan tek uygulama, Genesia AI Friend & Partner oldu.
En dikkat çekici bulgulardan biri, Mozilla'nın bu uygulamalardaki izleyicileri (küçük kod parçacıkları aracılığıyla veri toplayan ve bunları reklam ve diğer şirketlerle paylaşan unsurları) sayma çabasıyla ortaya çıktı. Mozilla, AI kız arkadaşı uygulamalarının dakikada ortalama 2.663 izleyici kullanmayı sürdürdüğünü tespit etti. Ancak, bu sayı, uygulamayı yalnızca bir dakika kullandıktan sonra 24.354 izleyiciye yükselen Romantik Yapay Zeka tarafından artırıldı.