Yapay Zeka Sadece X-Işınlarından Irk Tanımlayabilir ve Bilim İnsanlarının Bunun Nedeni Hakkında Hiçbir Fikri Yok

Yapay zekanın, insanların doğal olarak göremediği şeyleri görebildiği başka bir ekranda ırk tanımlayabildiğini keşfedildi. Araştırmacılar yapay zekanın, insan uzmanlarına göre net bir fark olmamasına rağmen, X-ışını görüntülerinden ırkı ayırt edebildiğini keşfettiler. Yalnızca X-ışını ve BT görüntülerine dayanarak, AI, ırkı yaklaşık yüzde 90 doğrulukla tanımlayabildi ve bilim insanları bunu nasıl yapabildiğini anlayamıyorlar.

Sonuçlar, yapay zekayı tıbbi teknolojilerde dağıtırken çok dikkatli olunması gerektiğini gösteriyor, çünkü sağlanan görüntülerin anonim, bulanık veya başka bir şekilde bozuk olduğu düşünülse bile, yapay zeka bunları hala karakterize edebiliyor olabilir.

Araştırma Lancet Digital Health'de yayınlandı.

MIT elektrik mühendisliği ve bilgisayar bilimleri yardımcı doçenti ve makalenin yazarlarından Marzyeh Ghassemi yaptığı açıklamada, "Lisansüstü öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, aslında bunun bir hata olması gerektiğini düşündüm. Dürüst olmak gerekirse, bana söylediklerinde öğrencilerimin deli olduğunu düşündüm. " dedi.

Yapay zekanın görüntüleri tanımlama yeteneğini test etmek için, bir derin öğrenme modeli ilk olarak çeşitli insan gruplarında vücudun birçok farklı bölgesinin BT ve X-ışını görüntülerini besledi ve her görüntü kişinin ırkıyla etiketlendi. Ardından, ten rengi ve saç rengi gibi olası tanımlayıcı özelliklerle birlikte etiketler çıkarıldı. Her görüntü için, AI'dan bireyin ırkını tanımlaması istendi.

Yapay zeka, vücudun tüm bölgeleri için herhangi bir tanımlayıcı özellik olmadan bile yaklaşık yüzde 90 doğrulukla ırkı tanımlayabildi.

Tüm temelleri kapsayan araştırmacılar, yapay zekanın sinsi olup olmadığını ve vücut kitle indeksi (BMI) veya meme yoğunluğu gibi bir yarışı diğerine göre önerebilecek değişkenlere dayalı tahmin yapmak için istatistikleri kullanıp kullanmadığını merak ettiler. Araştırmacılar olası değişkenleri çıkardılar ve yalnızca benzer BMI ve vücut tiplerine sahip kişilerin AI veri kümelerini gösterdiler, ancak AI yine de ırkı tanımlayabildi.

Bunu nasıl yapabilir? Açıkçası, araştırmacılar emin değil.

Bu, AI'nın neredeyse imkansız koşullarda ırkı tanımlayarak bilim insanlarını ilk şaşırtması değil. Önceki çalışmalar, görüntü ağır şekilde bozulduğunda veya değiştirildiğinde bunu yapabileceğini gösterdi. Ancak, değişkenlerin çıkarılması sonuçları şaşırtıcı hale getirir. Araştırmacılar, yapay zekanın siyah ve beyaz insanların derisi arasındaki melanin varyasyonlarını tanımlayabildiğini ve bu farklılıkların CT ve X-ray taramalarında ortaya çıkabileceğini ve insanların daha önce hiç fark etmediğini varsayıyorlar. Yine de bu sadece bir fikir ve gerçek çalışma şimdi sonuçları anlamaya başlıyor.

Ne olursa olsun, bilgi, yapay zekanın hastanelerde kullanımı ve farklı ırklara nasıl farklı tepki gösterebilecekleri konusunda ciddi endişeler uyandırmalı. Harvard Tıp Okulu'nda yardımcı yazar ve doçent olan Leo Anthony Celi, Boston Globe'a, “Bir ara vermemiz gerekiyor. Algoritmaları hastanelere ve kliniklere getirmek için acele edemeyiz, ta ki onların ırkçı kararlar veya cinsiyetçi kararlar almadıklarından emin olana kadar.” dedi.

Bu içerik The Boston Globe’da yayınlanmıştır.