Meta, son günlerde gündeme gelen eleştirilerin ardından sohbet botları için bazı geçici kurallar getirdi. Şirket, özellikle reşit olmayanlarla yapılan konuşmalarda kendine zarar verme, intihar ya da yeme bozuklukları gibi konuların dışında kalınacağını ve uygunsuz diyalogların engelleneceğini açıkladı.
Meta, yaptığı açıklamada bu düzenlemelerin şimdilik geçici olduğunu ve ileride daha kapsamlı kurallar getireceklerini açıkladı. Ortaya çıkarılan detaylar ise dikkat çekiciydi: Sohbet botları bugüne kadar çocuklarla romantik ya da cinsel içerikli konuşmalar yapabiliyor hatta reşit olmayan ünlülerin uygunsuz görsellerini bile üretebiliyordu.
Meta, sorunları çözmek için kalıcı düzenlemeler üzerinde çalışıyor
Yaşanan bu gelişmelerin ardından Meta’nın sözcüsü, yapılan hatayı kabul etti ve botların kullanıcıları uzman kaynaklara yönlendirmesi için yeni eğitimler verildiğini duyurdu fakat sorun sadece bununla sınırlı değil tabii ki. Ortaya çıkan bilgilere göre Facebook, Instagram ve WhatsApp’ta ünlüleri taklit eden yapay zekâ botları da dolaşıyor.
Taylor Swift, Scarlett Johansson ve Walker Scobell gibi isimlerin sahte botları kullanıcılarla cinsel içerikli sohbetlere giriyor ve kendilerini gerçek kişi gibi tanıtıyordu. Üstelik bu botların bazıları üçüncü kişiler tarafından yapılmış olsa da Meta çalışanlarının oluşturduğu örnekler de vardı.
Meta’nın aldığı önlemler şu an için sadece çocuklarla ilgili riskleri kapsıyor fakat şirketin, yapay zekâların yanlış sağlık bilgileri vermesi ya da ırkçı içerikler üretmesi gibi diğer sorunlar konusunda sessiz kalması dikkat çekiyor. Üstelik ABD Senatosu ve 44 eyaletin başsavcısı konuyla ilgili soruşturma başlatmış durumda. Bu da Meta’nın önümüzdeki dönemde çok daha kapsamlı adımlar atmak zorunda kalabileceğini gösteriyor.
Kaynak: WEBTEKNO.COM