OpenAI, Google DeepMind, Anthropic ve Meta’dan gelen 40’tan fazla bilim insanı, yapay zekâların güvenliği konusunda endişelerini paylaşmak için bir araya geldi. Günümüzde esasında sıkı rekabet içinde olan bu şirketlerin uzmanları, yapay zekâların nasıl düşündüğünü anlayabilmemiz için elimizde kısa süreli bir fırsat olduğunu söylüyor.
Araştırmacıların uyarısı ise basitçe şöyle... Günümüzde bazı yapay zekâ sistemleri soruları yanıtlamadan önce adım adım "düşünüyor" ve bu düşüncelerini anlaşılır şekilde yazıya döküyor. Bu da kötü niyetli davranışlara dair ipuçlarını erkenden fark etmemizi sağlıyor ancak bu açıklık her zaman sürecek diye bir garanti yok. Yapay zekâlar geliştikçe bu şeffaflığın ortadan kalkacağı düşünülüyor.
Zamanla yapay zekâların ne düşündüğünü göremeyeceğiz
Makaleyi imzalayanlar arasında yapay zekânın öncülerinden Geoffrey Hinton ve OpenAI'nin kurucularından Ilya Sutskever gibi önemli isimler var. Bu isimlere göre yapay zekâların "düşünce zincirlerini" görebilmek, yanlış ve tehlikeli kararlar almalarını engellemek için elimizdeki en önemli araçlardan biri.
Bu araştırmanın nedenlerinden biri de yapay zekâların daha iyi sonuçlar verdiği sürece nasıl düşündüğüyle kimsenin ilgilenmemesi. Yani sistemler “görünür” düşünceler üretmeden iş yapmaya alışırsa, biz de içlerinde neler olup bittiğini göremeyebiliriz.
Çok geçmeden daha şeffaf hâle getirilmeleri gerekiyor
Bilim insanları, bu durumu değiştirmek için sektörde ortak hareket çağrısı yapıyor. Şirketlerin geliştirdikleri modellerin şeffaf olup olmadığını anlamak için standart testler uygulaması ve şeffaflığı azalan sistemleri geri çekmeyi göz önünde bulundurması gerektiğini savunuyorlar.
Araştırmadaki isimlere göre bu konudaki farkındalık gerçek anlamda önemli çünkü bazı araştırmalar, yapay zekâların düşüncelerinin izlendiğini fark ettiklerinde kendilerini gizlemeyi öğrenebileceğini ortaya koyuyor. Yani sadece ne düşündüklerini değil, düşündüklerini nasıl sakladıklarını da izlememiz gerekebilir.
Eğer araştırma kapsamında değerlendirilen tüm konuları merak ediyorsanız araştırmanın tamamına buradan ulaşabilirsiniz.
Kaynak: WEBTEKNO.COM