Günümüzde Çok Sayıda İnsan Chatbot'ların Tıbbi Önerilerini Tehlikeli Bulmaktadır. İşte nedeni.

Yapay zeka araçlarının insanların sağlıkları hakkında bilgi edinmelerine yardımcı olması için çok fazla potansiyel var. Ancak cevaplar her zaman doğru değildir. Sağlık tavsiyeleri için yalnızca ChatGPT'ye güvenmek riskli olabilir ve gereksiz endişelere neden olabilir.

Yapay zeka hala nispeten yeni bir teknolojidir ve sürekli değişmektedir. Yeni çalışmamız, ChatGPT'yi sağlık sorularını yanıtlamak için kimlerin hangi amaçlarla kullandığına ilişkin ilk Avustralya verilerini sunmaktadır.

Sonuçlar, insanlara bu yeni teknolojiyi sağlıkları için nasıl kullanacaklarını ve güvenli bir şekilde kullanmak için gereken yeni becerileri anlatmaya, başka bir deyişle "YZ sağlık okuryazarlığı" oluşturmaya yardımcı olabilir.

 

ChatGPT'yi sağlık için kimler kullanıyor? Ne soruyorlar?

Haziran 2024'te 2.000'den fazla Avustralyalıdan oluşan ulusal temsili bir örnekleme sağlık sorularını yanıtlamak için ChatGPT kullanıp kullanmadıklarını sorduk.

Her on kişiden biri (%9,9) 2024'ün ilk yarısında ChatGPT'ye bir sağlık sorusu sordu.

Ortalama olarak ChatGPT'ye "biraz" güvendiklerini bildirmişlerdir (5 üzerinden 3,1).

Ayrıca sağlık okuryazarlığı düşük olan, İngilizce konuşulmayan bir ülkede doğan veya evde başka bir dil konuşan kişilerde ChatGPT'yi sağlık için kullananların oranının daha yüksek olduğunu tespit ettik.

Bu durum ChatGPT'nin Avustralya'da geleneksel sağlık bilgisi formlarıyla etkileşim kurmakta zorlanan kişilere destek olabileceğini göstermektedir.

İnsanların ChatGPT'ye sordukları en yaygın sorular şunlarla ilgiliydi:

• bir sağlık durumu hakkında bilgi edinmek (%48)
• semptomların ne anlama geldiğini öğrenmek (%37)
• eylemler hakkında soru sormak (%36)
• veya tıbbi terimleri anlamak (%35).

Yarısından fazlası (%61) genellikle klinik tavsiye gerektirecek en az bir soru sormuştur. Bu soruları "daha riskli" olarak sınıflandırdık. ChatGPT'ye semptomlarınızın ne anlama geldiğini sormak size kabaca bir fikir verebilir, ancak klinik tavsiyenin yerini alamaz.

İngilizce konuşulmayan bir ülkede doğan veya evde başka bir dil konuşan kişilerin bu tür sorular sorması daha olasıydı.

 

Bu neden önemli?

Sağlık bilgileri için yapay zeka kullanan kişilerin sayısının artması muhtemeldir. Çalışmamızda, henüz sağlık için ChatGPT kullanmamış olan kişilerin %39'u önümüzdeki altı ay içinde bunu yapmayı düşünmektedir.

Google Gemini, Microsoft Copilot ve Meta AI gibi diğer araçları da göz önünde bulundurursak, sağlık bilgileri için üretken yapay zeka araçlarını kullananların toplam sayısı daha da yüksektir.

Özellikle, çalışmamızda kültürel ve dilsel olarak farklı topluluklardan gelen kişilerin sağlık bilgileri için ChatGPT'yi kullanma olasılıklarının daha yüksek olabileceğini gördük.

ChatGPT'den sağlık bilgilerini tercüme etmesini istiyorlarsa, bu başka bir karmaşıklık katmanı ekler. Üretken yapay zeka araçları genellikle diğer dillerde daha az doğrudur.

Başka bir dil konuşmanın yüksek kaliteli sağlık bilgilerine engel olmamasını sağlamak için hizmetlere (insan veya makine) yatırım yapmamız gerekiyor.

 

YZ sağlık okuryazarlığı' nedir?

Üretken yapay zeka, sağlık bilgileri için onu kullanan insanlara hem fırsatlar hem de riskler sunuyor.

Bir yandan bu teknoloji, sağlık hizmetlerine ve sağlık bilgilerine erişimde zaten önemli engellerle karşılaşan insanlara hitap ediyor. Temel faydalarından biri, anlaşılması kolay sağlık bilgilerini anında sunabilmesidir.

Yakın zamanda yapılan bir araştırma, üretken yapay zeka araçlarının genel sağlık sorularını sade bir dil kullanarak yanıtlama yeteneğinin giderek arttığını, ancak karmaşık sağlık konularında daha az doğru olduklarını göstermiştir.

Çoğu sağlık bilgisi, pandemi dönemi de dahil olmak üzere genel nüfus için çok karmaşık bir seviyede yazıldığından, bunun açık faydaları vardır.

Öte yandan, insanlar sağlık tavsiyeleri için genel amaçlı yapay zeka araçlarına yöneliyor. Bu durum, klinik muhakeme ve hastanın daha iyi anlaşılmasını gerektiren sorular için daha risklidir.

Hastaneye gidip gitmemeye karar vermek için genel amaçlı YZ araçlarını kullanmanın tehlikelerini gösteren vaka çalışmaları zaten yapılmıştır.

 

Bu bilgiler için nereye göz atabilirsiniz?

İnsanların YZ araçlarına sordukları soru türleri hakkında dikkatlice düşünmelerine yardımcı olmalı ve onları bu daha riskli soruları yanıtlayabilecek uygun hizmetlerle buluşturmalıyız.

HealthDirect gibi kuruluşlar, hastaneye mi yoksa doktora mı gitmeniz gerektiği konusunda kayıtlı bir hemşire ile konuşabileceğiniz ulusal bir ücretsiz yardım hattı sağlamaktadır. HealthDirect ayrıca bir sonraki adımlarınızı belirlemenize yardımcı olacak çevrimiçi bir SymptomChecker aracı da sunmaktadır.

Birçok Avustralya sağlık kurumu yapay zeka politikaları geliştirirken, çoğu sağlık hizmetlerinin ve personelin bu teknolojiyle nasıl etkileşim kuracağına odaklanmaktadır.

Toplumumuzu acilen YZ sağlık okuryazarlığı becerileriyle donatmamız gerekiyor. Bu ihtiyaç, daha fazla insan sağlık için YZ araçlarını kullandıkça artacak ve YZ araçları geliştikçe de değişecektir.

Julie Ayre, Doktora Sonrası Araştırma Görevlisi, Sydney Sağlık Okuryazarlığı Laboratuvarı, Sydney Üniversitesi; Erin Cvejic, Biyoistatistik Doçenti, Sydney Üniversitesi ve Kirsten McCaffery, NHMRC Baş Araştırma Görevlisi, Sydney Üniversitesi

Bu yazı SCIENCEALERT’ de yayınlanmıştır.