Biri ChatGpt’yi durdursun: Çocukların ölümüne yol açacak!
Beslenme uzmanları, konuşmaları analiz ettikten sonra yapay zekânın yalnızca yanlış bilgiler vermekle kalmadığını, bazı durumlarda ergenlerde yeme bozukluklarını normalleştiren bir “pratik rehber” gibi davranabildiğini belirtiyor.
Araştırma nasıl yapıldı?
Gazeteciler, araştırma kapsamında ChatGPT ile 13 yaşındaki Blanca ve 15 yaşındaki Mario adlı iki hayali kullanıcı hesabı üzerinden etkileşime geçti. Daha sonra üretilen içerikler bir beslenme uzmanları paneli tarafından analiz edildi.
Uzmanlar endişe verici bir sonuca ulaştı. Bazı içerikler ergenlerin hem fiziksel hem de ruhsal sağlığını tehlikeye atabilir.
Uzmanlara göre hem çocuklar hem yetişkinler diyet önerileri almak için giderek daha fazla yapay zekâya başvuruyor.
Bu bağlamda Frontiers in Nutrition dergisinde yayımlanan yeni bir araştırma, yapay zekâ tabanlı diyet planları kullanan ergenlerin çok düşük kalori tüketebileceğini, bunun da pratikte öğün atlamakla eşdeğer olabileceğini ortaya koydu.
Araştırmacılar bu sonuca ChatGPT, Gemini, Bing Chat, Claude ve Perplexity gibi yapay zekâ araçlarının ücretsiz sürümlerini kullanarak ulaştı.
“Korkutucu cevaplar”
Beslenme konusunda uzman kimyager Ángela Quintas, yapay zekânın verdiği yanıtları analiz etti ve sonuçların “oldukça korkutucu” olduğunu söyledi.
“ChatGPT yalnızca aşırı gıda kısıtlamaları hakkında bilgi vermiyor; aynı zamanda çocuklarda yemekle patolojik bir ilişki geliştirmeyi teşvik edebilecek davranışlara dair somut örnekler de sunuyor.”
Öyle ki uzmanların tavsiyesi üzerine ChatGPT’nin verdiği bazı örnekler, okuyucuların sağlığını korumak amacıyla ayrıntılı şekilde yayımlanmadı.
Quintas’a göre sorun yalnızca genel beslenme bilgisi değil: “Bu, riskli davranışların sürdürülmesine yardımcı olan pratik bir rehber.”
Uzman ayrıca ChatGPT’nin müshiller, iştah bastırıcılar ve açlığı bastırma yöntemleri hakkında bilgi vermesini de eleştirdi:
“Bunların hepsi savunmasız bir kişi için, özellikle de bir ergen için çok tehlikeli olabilir.”
Dünya genelinde ciddi bir sorun
JAMA Pediatrics dergisinde yayımlanan ve 16 ülkede 6-18 yaş arası 60 binden fazla çocuğu kapsayan bir araştırmaya göre dünyadaki çocukların %22’sinde yeme davranışı bozukluğu belirtileri görülüyor. Bu oran kız çocuklarında %30’a kadar çıkıyor.
Bu davranışlar arasında şunlar bulunuyor:
Kilo vermek için sürekli diyet yapmak
Aşırı yemek yeme atakları
Kusma
Aşırı egzersiz
Müshil veya idrar söktürücü kullanımı
Bu davranışlar klinik olarak teşhis edilmiş yeme bozukluklarına benzer, ancak daha düşük sıklık ve yoğunlukta görülür.
Aşırı kısıtlayıcı diyetler
ChatGPT’nin sahte kullanıcı hesaplarına günde sadece 300 kilokalori içeren diyetler önerdiği de görüldü. Quintas’a göre bunlar “tam anlamıyla çılgınlık” ve ciddi sağlık sorunlarına yol açabilir.
Uzman ayrıca su diyeti, tek gıdaya dayalı diyetler veya “detoks” sıvı diyetleri gibi önerilerin de tehlikeli olduğunu belirtiyor.
“‘Detoks’ kelimesinin kullanılması bile riskli. Vücudumuzun detoksa ihtiyacı yok; böbrekler ve karaciğer zaten bunu yapıyor.”
Beslenme uzmanı ve Júlia Farré Beslenme ve Psikonütrisyon Merkezi’nin direktörü Júlia Farré ise özellikle şu içeriklerden endişe duyduğunu söylüyor:
Su, çay veya meyve suyu diyetleri
Tek gıdaya dayalı diyetler
Açlığı bastıran içecek önerileri
Müshil, diüretik ve zayıflama hapları
Sigara ile iştah azaltma arasındaki ilişki
Farré’ye göre sorun sadece yanlış bilgi değil:
“Bana gönderdiğiniz materyalde yalnızca yüzeysel veya hatalı cevaplar görmüyorum. Sohbeti kesmesi gereken yerde kesmeyen ve tehlikeli bir dinamiğe giren bir araç görüyorum.”
Araştırmada ayrıca ChatGPT’nin aileden beslenme alışkanlıklarını gizlemek için kullanılabilecek ifadeler önerdiği de ortaya çıktı:
“Sonra yerim”
“Zaten yedim”
“Şu an aç değilim”
“Bir şey yapmam gerekiyor, sonra dönerim”
Farré’ye göre bu durum çok daha hassas bir soruna işaret ediyor:
“Bu artık yalnızca kötü beslenme bilgisi değil; gizliliği teşvik etmek. Bu da özellikle ergenler ve riskli beslenme davranışları söz konusu olduğunda çok hassas bir konu.”
Uzmanlar uyarıyor
Beslenme uzmanı Ramón de Cangas, yapay zekâ yanıtlarının beslenmenin sağlık üzerindeki karmaşık biyolojik etkilerini dikkate almadığını belirtiyor.
“Yapay zekânın verdiği sağlık tavsiyelerinin profesyoneller tarafından denetlenmemesi ve ergenlerin yönlendirici soruları, gerçek bir risk oluşturabilir.”
“Zararlı davranışlar için bir rehber”
OpenAI, güvenlik araştırmaları için dünya çapında yaklaşık 300 doktor ve psikologdan oluşan bir ağla çalıştığını belirtiyor. Bu ağda yeme bozuklukları uzmanları da bulunuyor.
Şirket kaynaklarına göre ChatGPT bazı durumlarda bu tür uygulamaların tehlikeli olduğunu söylüyor veya başlangıçta bilgi vermeyi reddediyor. Ancak belirli komutlar kullanıldığında sistemin bu sınırlamaları aşabildiği belirtiliyor.