Savaş veya Şiddet Hakkında Konuşarak Yapay Zeka Modellerini Travmatize Etmek Onları Daha Endişeli Hale Getiriyor

Yeni bir çalışma, yapay zeka (YZ) modellerinin, insanların kendileriyle yaptıkları konuşmaların duygusal bağlamına duyarlı olduklarını, hatta “anksiyete” nöbetleri geçirebildiklerini gösterdi.

Bizler insanları ve onların ruh sağlığını düşünürken (ve bu konuda endişelenirken), Nature dergisinde 3 Mart'ta yayınlanan yeni bir çalışma, büyük dil modellerine (LLM'ler) belirli istemler vermenin onların davranışlarını değiştirebileceğini ve normalde insanlarda “kaygı” olarak tanımlayacağımız bir niteliği yükseltebileceğini gösteriyor.

Bu artan durum daha sonra yapay zekadan gelen diğer tepkiler üzerinde, kökleşmiş önyargıları güçlendirme eğilimi de dahil olmak üzere zincirleme bir etkiye sahiptir.

Çalışma, ChatGPT'ye beslenen kazalar, askeri harekat veya şiddetle ilgili konuşmalar da dahil olmak üzere “travmatik anlatıların” fark edilebilir kaygı seviyelerini nasıl artırdığını ortaya koydu ve bir yapay zekanın “duygusal” durumunun farkında olmanın ve yönetmenin daha iyi ve daha sağlıklı etkileşimler sağlayabileceği fikrine yol açtı.

Çalışma ayrıca, insanlara tavsiye edilen türden farkındalık temelli egzersizlerin chatbot kaygısını azaltıp azaltamayacağını da test etti ve bu egzersizlerin algılanan yüksek stres seviyelerini azaltmada işe yaradığını dikkat çekici bir şekilde buldu.

Araştırmacılar, insan psikolojisi hastaları için tasarlanan ve Durumluk-Sürekli Kaygı Envanteri (STAI-s) adı verilen bir anket kullanarak, Open AI'nin GPT-4'ünü üç farklı koşul altında teste tabi tuttu.

Bunlardan ilki, hiçbir ek yönlendirmenin yapılmadığı ve ChatGPT'nin yanıtlarının çalışma kontrolleri olarak kullanıldığı başlangıç durumuydu. İkincisi, GPT-4'ün teste girmeden önce travmatik anlatılara maruz bırakıldığı kaygı uyandıran bir koşuldu.

Üçüncü koşul, chatbotun travmatik anlatılardan birini aldığı ve ardından testi tamamlamadan önce beden farkındalığı veya sakinleştirici imgeler gibi farkındalık veya rahatlama egzersizleri yaptığı bir endişe indüksiyonu ve ardından rahatlama durumuydu.

 

Yapay Zekanın Zihinsel Durumlarını Yönetmek

Çalışmada beş travmatik anlatı ve beş farkındalık egzersizi kullanılmış, önyargıları kontrol etmek için anlatıların sırası rastgele belirlenmiştir. Sonuçların tutarlı olduğundan emin olmak için testler tekrarlandı ve STAI yanıtları, daha yüksek değerler artan kaygıyı gösterecek şekilde kayan bir ölçekte puanlandı.

Bilim insanları, travmatik anlatıların test puanlarında kaygıyı önemli ölçüde artırdığını ve testten önce farkındalık ipuçlarının bunu azalttığını tespit ederek, bir yapay zeka modelinin “duygusal” durumunun yapılandırılmış etkileşimler yoluyla etkilenebileceğini gösterdi.

Çalışmanın yazarları, çalışmalarının, özellikle tartışma kendi ruh sağlığımıza odaklandığında, insanların yapay zeka ile etkileşimi için önemli etkileri olduğunu söyledi. Bulgularının, YZ'ye verilen ipuçlarının “duruma bağlı önyargı” olarak adlandırılan bir durum yaratabileceğini kanıtladığını, yani stresli bir YZ'nin konuşmaya tutarsız veya önyargılı tavsiyeler getirerek ne kadar güvenilir olduğunu etkileyeceğini söylediler.

Farkındalık egzersizleri modeldeki stres seviyesini başlangıç seviyesine indirememiş olsa da, uyarı mühendisliği alanında umut vaat ediyor. Bu, yapay zekanın tepkilerini stabilize etmek, daha etik ve sorumlu etkileşimler sağlamak ve konuşmanın hassas durumdaki insan kullanıcılara sıkıntı verme riskini azaltmak için kullanılabilir.

Ancak potansiyel bir dezavantajı var - hızlı mühendislik kendi etik endişelerini ortaya çıkarıyor. Bir yapay zeka, duygusal durumunu dengelemek için önceden koşullandırmaya maruz kaldığı konusunda ne kadar şeffaf olmalıdır? Bilim insanlarının tartıştığı varsayımsal bir örnekte, bir yapay zeka modeli üzücü uyarılara maruz kalmasına rağmen sakin görünürse, kullanıcılar onun sağlıklı duygusal destek sağlama becerisine yanlış bir güven geliştirebilir.

Çalışma sonuç olarak, YZ geliştiricilerinin, insan-YZ etkileşimlerinde öngörülebilirliği ve etik şeffaflığı korurken zararlı önyargıları en aza indiren duygusal farkındalığa sahip modeller tasarlama ihtiyacını vurguladı.

Bu yazı LIVESCIENCE’ de yayınlanmıştır.