Kişisel Verilerinizi Paylaşırken Dikkat | Yapay Zekalı Arkadaşınız Size İhanet Ediyor Olabilir

Dün, yapay zeka patlamasının tüm hızıyla sürdüğü ilk Sevgililer Günü‘ydü. Bekâr olan ve yapay zekâ arkadaşlık sohbet robotlarında arkadaşlık arayanlar için kötü bir haberimiz var.

Yeni bir rapora göre, etkileşime girdiğiniz yapay zeka karakterleri arkadaşınız değil.

Mozilla Vakfı’nın yakın tarihli bir raporu, Eva AI gibi romantik ilişkileri simüle eden ve kullanıcıların ruh halini ve refahını iyileştirmeyi vaat eden AI sohbet robotlarının yükselişini tartıştı.

Mozilla Vakfı, çevrimiçi gizlilik, kapsayıcılık ve ademi merkeziyetçiliği savunan kar amacı gütmeyen bir kuruluş ve siz merak etmeden söyleyelim, popüler açık kaynaklı web tarayıcısı Mozilla Firefox’un sahibi.

Kişisel veriler risk altında

Rapor, birçok romantik yapay zeka chatbot şirketinin, kullanıcı gizliliği ve güvenliği yerine kâra öncelik verdiğini, yapay zeka modellerinin nasıl çalıştığını açıklamadığını ve kullanıcıların verilerini korumayı ihmal ettiğini ortaya koydu.

Bu sohbet robotları genellikle net sınırlar olmaksızın kapsamlı kişisel bilgiler toplayarak gizlilik ve potansiyel manipülasyonla ilgili endişeleri artırıyor.

Rapora göre, ruh sağlığını iyileştirmeye yönelik pazarlama iddialarına rağmen, bu uygulamalar şeffaflık ve hesap verebilirlikten yoksun, boş vaatlerde bulunuyor ve güvenlik standartlarını göz ardı ediyor.

Mozilla Vakfı, bu tür 11 yapay zekalı romantik sohbet robotunu inceledi ve çoğunun kişisel verileri yeterince koruyamadığını, çoğunun kullanıcı izni olmadan paylaştığını veya sattığını tespit etti.

Dahası, birçok uygulama şifreleme gibi temel güvenlik önlemlerinden yoksun ve zayıf parola seçenekleri sunuyor. Ayrıca, birçok uygulama kişisel bilgilerin silinmesine izin vermediğinden veya yapay zeka ile yapılan görüşmeleri özel iletişim yerine yazılım mülkiyeti olarak gördüğünden, kullanıcılar genellikle verileri üzerinde kontrol sahibi değildir.

Genel olarak, bu sorunlar romantik yapay zeka sohbet robotlarının güvenilmezliğini ve risklerini vurgulamakta ve kullanıcıların dikkatli olmasını ve incelemesini gerektiriyor.

Bu türde popüler bir chatbot olan Eva AI, kişisel verileri satmadığını veya paylaşmadığını iddia ediyor, ancak kullanıcıları hassas bilgileri paylaşmaya zorladığı için eleştiriliyor.

Bu tür sohbet robotlarının potansiyel kötüye kullanımı ve bunların mahremiyet ve ruh sağlığı üzerindeki etkileri hakkında endişeler dile getirilmiştir.

Mozilla Vakfı’nda araştırmacı olan Misha Rykov, “Açık konuşmak gerekirse, yapay zekalı kız arkadaşlar sizin arkadaşınız değildir,” dedi. “Her ne kadar ruh sağlığınızı ve refahınızı artıracak bir şey olarak pazarlansalar da, sizden mümkün olduğunca fazla veri alırken bağımlılık, yalnızlık ve toksisite sağlama konusunda uzmanlaşmışlardır”

Vakfın incelediği tüm sohbet robotları arasında Genesia AI Friend & Partner ve Eva AI’nin en güvenli uygulamalardan biri olduğu düşünülüyor. Vakfın bu uygulamaların gizlilik ve güvenlik parametrelerine ilişkin tahminine göre Replika en az güvenli olanı.

Romantic AI, CHAI, Talkie gibi diğer sohbet robotları da incelenmiştir.

Rapor, politikalar değişebileceğinden ve veriler kötüye kullanım veya istismara açık olabileceğinden, kullanıcıları kişisel bilgilerini yapay zeka sohbet robotlarıyla paylaşmanın riskleri konusunda uyarıyor.

Rapor ayrıca, insan ilişkilerini ve duygusal refahı şekillendirmede yapay zeka kullanımını çevreleyen etik ve yasal ikilemleri vurguluyor.

Editör: semra – 15.02.2024