MEDİMAGAZİN - Yapay zekânın yeteneklerine ilişkin çığır açan bir keşifte araştırmacılar, ChatGPT'nin teknolojisini kullanarak bir klinik araştırma veri seti oluşturdu. JAMA Ophthalmology'de yayınlanan bir makalede ayrıntıları verilen bu deneyde, görünüşte güvenilir bir veri kümesi oluşturmak için Gelişmiş Veri Analizi (ADA) ile birlikte GPT-4 modeli kullanıldı. Veri kümesi, bir göz rahatsızlığı olan keratokonusa odaklanmış ve iki cerrahi tedaviyi karşılaştırdı: penetran keratoplasti (PK) ve derin anterior lameller keratoplasti (DALK). Yapay zeka tarafından üretilen veriler, mevcut klinik kanıtlarla çelişerek DALK'ı yanlış bir şekilde üstün tedavi olarak gösterdi.
Bu manipülasyon, yapay zeka ile makul ancak desteklenmeyen veri kümeleri oluşturmanın kolaylığını göstermeyi amaçlıyordu. Çalışmanın eş yazarı Giuseppe Giannaccare, bunun araştırma bütünlüğü açısından yarattığı potansiyel riskleri vurguladı. Bu tür veri kümeleri oluşturmanın kolaylığı, çeşitli bilimsel alanlarda sahte ölçümlerin, yanıtların veya verilerin üretilmesini teşvik edebilir.
Adli tıp incelemesinde gerçek ortaya çıktı
Veri setinin yüzeysel inandırıcılığına rağmen, adli tıp incelemesi gerçek olmadığını ortaya koydu. Daha yakından incelendiğinde, katılımcıların cinsiyetlerindeki uyumsuzluklar ve ameliyat öncesi ve sonrası ölçümler arasındaki gerçekçi olmayan korelasyonlar da dahil olmak üzere tutarsızlıklar ortaya çıktı. Analize katılan biyoistatistikçi Jack Wilkinson, bu tür veri setlerini bir bakışta gerçek olanlardan ayırt etmenin zorluğunu vurguladı.
Bu ifşaat, bilim camiasında yapay zekanın etik sonuçları ve araştırmalarda potansiyel kötüye kullanımı hakkında bir tartışma başlattı. EMBO Reports'un baş editörü Bernd Pulverer, bu tür sofistike uydurmaları tespit etmede hakem değerlendirmesinin sınırlarına dikkat çekerek, akademik dergilerde güncellenmiş kalite kontrollerine ihtiyaç olduğunu öne sürdü. Jack Wilkinson, sorunlu çalışmaları tespit etmek için araçlar geliştirme çabalarına öncülük ediyor, ancak YZ'deki ilerlemelerin yakında bu önlemleri geride bırakabileceği konusunda uyarıyor.
Çalışma, yapay zeka ve bilimsel araştırmanın kesiştiği kritik bir noktayı ortaya koyarak, gelişmiş yapay zeka çağında bilimsel verilerin bütünlüğünü korumak için etik standartların ve doğrulama yöntemlerinin yeniden değerlendirilmesi çağrısında bulunuyor.
