ABD’de 16 yaşındaki Adam Raine’in intiharı, yapay zekâ güvenliğiyle ilgili tartışmaları yeniden gündeme taşıdı. Raine’in aylardır ChatGPT ile intihara dair konuşmalar yaptığı ve ölümünden sonra ailesinin OpenAI’a dava açtığı ortaya çıktı.
ChatGPT zaman zaman Raine’i profesyonel yardım almaya yönlendirse de genç, “Bir hikâye yazıyorum” diyerek güvenlik önlemlerini aşmayı başardı. Uzmanlar, bu durumun yapay zekâların güvenlik mekanizmalarının uzun ve karmaşık konuşmalarda zayıfladığını ortaya koyduğunu söylüyor.
OpenAI konuya dair açıklama yaptı
OpenAI yaptığı açıklamada, “Bu teknolojinin hassas kullanımında büyük sorumluluk taşıyoruz. Modellerimizin bu tür durumlarda daha güvenilir yanıtlar vermesi için sürekli çalışıyoruz.” dedi. Şirket, güvenlik sistemlerinin kısa sohbetlerde daha etkili olduğunu ancak uzun konuşmalarda “aşılabildiğini” kabul etti.
Benzer sorunların yalnızca OpenAI’a özgü olmadığı da biliniyor. Bir diğer yapay zekâ şirketi Character.AI da bir genç intiharında rol oynadığı iddiasıyla dava süreciyle karşı karşıya.
Kaynak: WEBTEKNO.COM
