Sahte olduklarını bilseniz bile beyni yanıltıyor
Birleşik Krallık’taki Bristol Üniversitesi’nden iki psikolog, 2024 yılında gerçekleştirdikleri bir deney üzerine yakın zamanda bir makale yayımladı. Araştırmada, yapay zekâ ile üretilmiş, açıkça sahte olduğu belirtilmiş bir videonun bile insanların ne düşündüğünü etkileyebileceği hipotezi test edildi.
Deney, psikologlar Stephan Lewandowsky ve Simon Clark tarafından yürütüldü. Araştırmacılar, bir grup katılımcıya kısa bir video izlettiklerini ve videodaki kişinin 27 yaşında, vegan bir influencer olan Amelia Palmer olduğunu söylediler. Katılımcılara ayrıca bu videonun sosyal medyada çok yayıldığı bilgisi verildi.
Yaklaşık iki dakika süren videoda, Palmer olduğu iddia edilen kadın, bir restoranda hamburger yerken görüldüğüne dair söylentileri doğruluyor, ardından zor bir dönemden geçtiğini söyleyerek özür diliyordu.
Ancak araştırmacılar, iki farklı katılımcı grubuna iki farklı video gösterdi.
Bir gruba gerçek bir kişiyle çekilmiş video, diğer gruba ise yapay zekâ yazılımıyla üretilmiş bir deepfake video izletildi. Her iki videoda da senaryo birebir aynıydı. Ayrıca deepfake videoyu izleyen grubun bir bölümüne, video başlamadan hemen önce, içeriğin sahte olarak etiketlendiği açıkça söylendi.
Sonuçlar: Sahte olduğu bilinse bile etkiliyor
Deneyin sonunda katılımcılara şu soru yöneltildi:
“Vegan influencer Amelia Palmer’ın gerçekten bir hamburger yerken görüldüğünü düşünüyor musunuz?”
Katılımcıların neredeyse tamamı “evet” yanıtını verdi. Buna, izledikleri videonun sahte olduğunu bilen ve bu bilginin kendilerine önceden söylendiği kişiler de dahildi. Oysa bu gruptan beklenen yanıtın “Bunu bilmek mümkün değil” olmasıydı.
Bu deneyin ve benzer iki çalışmanın sonuçları, Communications Psychology adlı, Nature grubuna ait bilimsel dergide yayımlandı.
Araştırmanın başlatıldığı yaklaşık iki yıl öncesine kıyasla, yapay zekâ ile üretilen videoların bugün çok daha gerçekçi hâle geldiği, buna karşılık sosyal medya platformlarının bu içerikleri tanıma ve etiketleme araçlarının daha az etkili olduğu vurgulandı.
Araştırmacılar katılımcılara ikinci bir soru daha yöneltti: “Bu videonun bir deepfake olduğunu düşünüyor musunuz?”
Deepfake videoyu izleyen ve sahte olduğu kendilerine söylenen grubun yalnızca yüzde 60’ı bu soruya “evet” yanıtı verdi.
Uyarılar neden yeterli olmadı?
Videonun sahte olduğuna ikna olan katılımcıların sadece yüzde 20’si, bu kanaate varmalarının nedeni olarak videonun başında verilen uyarıyı gösterdi. Geri kalanlar ise grafik hatalar, yüz ve görüntü uyumsuzlukları gibi teknik kusurlara dikkat çektiklerini söyledi.
Daha da çarpıcı olan ise şu oldu. Videonun sahte olduğuna kesin olarak inanan bu grubun yarısı, buna rağmen birilerinin gerçekten influencer’ı hamburger yerken gördüğünü düşündüğünü ifade etti.
Deepfake’ler ve “sürekli etki” sorunu
Deepfake teknolojisinin kamuoyu üzerindeki olası etkileri uzun süredir tartışılıyor. Akademik literatürdeki tartışmaların büyük bölümü, deepfake’lerin itibar zedeleme, tehdit, kişisel zarar verme ya da siyasi manipülasyon amacıyla kullanılmasına odaklanıyor.
Lewandowsky ve Clark’ın çalışması ise farklı bir riske işaret ediyor. Sahte olduğu açıkça belirtilen içeriklerin bile insanların düşüncelerini etkileyebilmesi.
Bu bulgu, psikoloji ve bilişsel-sosyal bilimlerde uzun süredir bilinen bir etkiyle örtüşüyor: “Devam eden etki”
Araştırmalar, bir kez öğrenilen yanlış bilgilerin, sonradan düzeltilseler bile, insanların muhakeme ve yargılarını etkilemeye devam ettiğini gösteriyor. Örneğin, bir restoranda zehirli mantar yüzünden bir ailenin öldüğüne dair haber yalanlansa bile, insanlar o restorandan uzun süre uzak durabiliyor.
Buna ek olarak, insanların kendi inançlarıyla çelişmeyen bilgilere daha kolay inanma, daha önce duydukları veya tanıdık gelen iddiaları daha doğru kabul etme eğilimi olduğu biliniyor. Bu durum bazı çalışmalarda “illüzyonel doğruluk etkisi” olarak tanımlanıyor. Şüpheli bir iddia ne kadar sık tekrarlanırsa, doğruymuş gibi algılanma ihtimali o kadar artıyor.
Düzeltmeler gerekli ama yeterli değil
Yanlış bilgilerin düzeltilmesi önemli, ancak etkisi sınırlı. Bir politikacı hakkında olumsuz bir iddia çürütülse bile, bu bilgi kişinin o politikacıya yönelik uzun vadeli duygularını değiştirebiliyor. Bu nedenle sosyal medyadaki doğrulama girişimleri etkili olsa da, yanlış bilginin tüm etkisini ortadan kaldıramıyor.
Lewandowsky ve Clark’ın çalışması bu noktada farklılaşıyor, çünkü uyarı içerikten önce veriliyor. Bu durum, yanlış bilgiyi önceden etkisizleştirmeyi amaçlayan “prebunking” yaklaşımına örnek teşkil ediyor. Ancak araştırma, önleyici uyarıların bile her zaman yeterli olmadığını gösteriyor.
Araştırmacılara göre, ister içerikten önce ister sonra yapılsın, dezenformasyonla mücadele yöntemlerinin başarısı; bireylerin önceden sahip olduğu inançlara, içeriğin duygusal etkisine ve görsel-işitsel ikna gücüne büyük ölçüde bağlı.