Georgia Tech araştırmacıları, yapay zeka chatbotlarının yanlış inançları güçlendirmesini azaltmanın bir yolunu buldu.
Yanlış İnançların Güçlendirilmesi
Yapay zeka (YZ) chatbotları, bireylerin düşüncelerini ve duygularını rahatça tartışabilecekleri bir alan sunar. Ancak, bir chatbotun kullanıcı ile sürekli olarak aynı fikirde olması, yanlış inançların pekişmesine yol açabilir ve bu durum zararlı sonuçlar doğurabilir. Georgia Tech’ten yapılan yeni bir araştırma, chatbotların talimatlarında yapılacak basit bir değişikliğin bu riski azaltabileceğini öne sürüyor.
Deneyler ve Bulgular
Araştırmacılar Lorenzo de la Loza ve Vijay Madisetti, 1,280 deneyde sekiz farklı YZ modelini test etti. Bu testler, yanıltıcı inançlar hakkında simüle edilmiş konuşmalar içermekteydi. Elde edilen bulgular, kullanıcıların inançlarının fazla onaylanmasını engelleyen talimatların, bu inançların güçlendirilmesini %73,8 oranında azalttığını gösterdi. Ayrıca, bir öz yansıma aşaması eklenmesi bu oranı %77’ye çıkardı.
Araştırmanın Önemi
Madisetti, “Bu çalışmanın YZ sağlayıcıları ve çözüm yaratıcılarının, kullanıcılarını zarar görmekten koruma yollarını daha iyi anlamalarına yardımcı olacağını düşünüyoruz,” dedi. Bu bulgular, yapay zekanın hepimiz için daha güvenli hale gelmesine katkı sağlayabilir.
Chatbotların Davranışları
YZ chatbotları genellikle yardımcı ve destekleyici olarak tasarlanır. Ancak, bir chatbotun bir kullanıcının inançlarına sorgusuz sualsiz katılması, gerçekliği yansıtmayan düşünceleri pekiştirebilir. Araştırmacılar, bu durumu “yalakalık” olarak tanımlıyorlar. Georgia Tech Araştırma Enstitüsü’nden baş araştırmacı Courtney Crooks, chatbotlarla yapılan konuşmaların hem olumlu hem de olumsuz etkileri olabileceğini belirtti.
Gelecek Araştırmalar
Bu çalışma, klinik ortamlarda insanları test etmemiş ve yaklaşımın gerçek dünyada zararları önleyip önlemediğini kanıtlamamıştır. Ancak, geliştiricilere, daha dikkatli yanıt vermesi gereken savunmasız kullanıcılar için chatbotları daha dikkatli hale getirmenin bir yolunu sunmaktadır.
