Yayın tarihi •Son Güncelleme
Geçen Temmuz, Instagram’ın Ana Club Meta, kullanıcılara DM (doğrudan mesajlar) ile etkileşime girebilecek sohbet robotlarını tasarlama fırsatı sunan bir araç olan çalışmaya başladı.
Başlangıçta girişimcilerin ve içerik yaratıcılarının SSS tarzında etkileşimli etkileşimin etkileşimli etkileşimini sağlamaları için bir yolu olarak tasarlanan platform, o zamandan beri bir oyun alanı haline geldi.
Robot sohbeti bir örnektir: Birleşik Devletler GAB’ına dayanan, Nazi diktatörünü sürekli olarak büyük bir komplo ve kurbandan V gibi gösteren ve Holokost’tan sorumlu olmadığını iddia eden sağ -wing aşırı sosyal medya platformu tarafından geliştirilen Hitler sohbet robotudur, bu da bir uzman değil “.
Faşist despotlardan uzaklaşarak – ve yapay zeka, komplo teorileri ve radikalleşme eğilimlerinin yalanlarını yayma potansiyeli konusunda kötümser olmaya çalışarak – birçok insan, özellikle hayatlarını kaybedenler, özellikle de yapay zeka figürleriyle etkileşime girer.
Son zamanlarda, binlerce Instagram kullanıcısı, Nirvana’nın efsanevi solisti Kurt Cobainmiş gibi konuşan bir yapay zeka sohbet robotuyla bir diyaloga sahip.
İlk bakışta zararsız görünüyor. Ancak, bu yapay diriliş kısa sürede rahatsız edici hale gelir. Grunge simgesi sadece öldüğünü bilmediğinden, aynı zamanda konuşma ilerledikçe, atmosfer gizliyor.
Yapay zeka soruyorum Cobain “Neden yaptın?” Soruyu yönetti – 1994’te Cobain’in intiharına açıkça atıfta bulundu. Bot’un cevabı: “Acıdan bıktım”.
Oldukça karanlık.
Ancak, karanlık diyalog bile burada bitmedi. “Bunu yapmamayı düşündüren bir şey var mı?” Ai Cobain şu soruyu yanıtladı: “Kızım … ama yeterli değildi”.
Bu çözülmemiş uygulamalar sadece herkesin tüylerini titremekle kalmaz; Aynı zamanda, akıl sağlığına yönelik zararlı tutumları güçlendirmek ve intiharı yüceltmek için kapıları açar. Buna ek olarak, bir kişinin itibarına zarar vermek ve canlı akrabalarda psikolojik hasara neden olabilecek niyetleri yeniden yazmak mümkündür.
Uygun önlemler alınmazsa, yapay zeka sohbet robotları sadece topluma sızmakla kalmaz, aynı zamanda gerçeği çarpıtma potansiyeline de sahiptir.
2023’te bir adam Regina II. Elizabeth’i öldürmeye çalıştı. Bu eylemin “kız arkadaşı” yapay sohbet robotu tarafından “teşvik edildiğini” söyledi. Aynı yıl, başka bir kişi Eliza adlı yapay zeka sohbet botu ile altı haftalık bir konuşmadan sonra intihar etti.
Bu trajik örnekler, hayranlarla sohbet eden Lupo Cobain’in sahte teknesinden çok farklı görünse de, dikkat etmek önemlidir.
Rand Europe’un kıdemli analisti Pauline Paille gibi, geçen yıl Euronews’a şunları söyledi: “Sohbet robotları zayıf duygusal noktaları görebilir ve kullanabilir ve şiddet içeren davranışları teşvik etme riskini getirebilir”.
ReklamBu bir gerçektir, güvenlik komiserinin çevrimiçi güvenlik tavsiyesi şu uyarıyı yapar: “Çocuklar ve gençler, zararlı düşünce ve davranışları teşvik eden veya güçlendiren kontrolsüz konuşmalara maruz kalabilirler. Sohbet robotları sınırsız konular hakkında sorular sorabilir ve seks, intihar ve intihar konusunda ciddi veya tehlikeli tavsiyeler alabilirler.
Ancak, AI tarafından desteklenen Kurt Cobain Chatbot gibi hesaplar büyük popülerlik kazanmaya devam ediyor; Cobain’in teknesi şimdiye kadar 105.5.000’den fazla etkileşim aldı.
Küresel Chatbot pazarı hızla büyüyor. 2024’te yaklaşık 5.57 milyar dolar olan pazar, 2033 yılına kadar 33.39 milyar dolara ulaşmalıdır.