Papa yapay zekanın üzerini çizdi
Magnifica humanitas adlı belgede Papa 14. Leo, “Tanrı’nın yarattığı muhteşem insanlık bugün belirleyici bir tercihle karşı karşıya: yeni bir Babil Kulesi inşa etmek ya da Tanrı ile insanlığın birlikte yaşayacağı şehri kurmak” ifadelerini kullanıyor.
14. Leo ayrıca Kilise’yi, kurum içinde yaşanan cinsel istismarlar nedeniyle vicdan muhasebesi yapmaya çağırıyor ve göçmenlerin kabul edilmesine odaklanarak bunun hâlâ bekleyen bir sınav olduğunu vurguluyor.
Pazartesi günü yayımlanan ve papalığının ilk büyük belgesi olan bu genelgede, matematikçi ve kilise hukuku uzmanı olan XIV. Leo, XIII. Leo’nun Rerum Novarum belgesinin izinden giderek Katolik Kilisesi’nin Sosyal Öğretisi’ni çağımızın en önemli meselelerinden biri olan yapay zekâ karşısında güncelliyor.
Papa, bu yeni devrim karşısında “dijital çağda adil bir toplumsal düzen”, “uygun hukuki çerçeveler”, “adil kurallar” ve “etkili koruma mekanizmaları” talep ediyor.
Belgenin 110 sayfalık metnindeki ilk değerlendirmelerinden birinde, “yapay zekâ dahil teknolojik yeniliklerin tarafsız olmadığını; bunların katılımı ve adaleti artırabileceği gibi eşitsizlikleri, kontrolü ve dışlanmayı da büyütebileceğini” savunuyor.
Yapay zekâ konusunda ise “bilginin manipüle edilmesi veya mahremiyetin ihlali gibi açıkça insanlık dışı kullanımlar” konusunda uyarıda bulunuyor. Ayrıca, sistemlerin “tarafsız ve nesnelmiş gibi sunulurken, onları tasarlayan ve programlayan kişilerin stereotiplerini veya ideolojik pozisyonlarını yansıtıp güçlendirmesi” gibi daha sinsi bir aldatmacaya da dikkat çekiyor.
Metin, yapay zekâ üzerine teknik bir inceleme olmadığı gibi yeni teknolojilere yönelik bir mahkûmiyet de değil. Papa, bu teknolojilerin değerini kabul ediyor; ancak transhümanizmin yayılması riskine karşı Kilise’nin Sosyal Öğretisi’ni bu yeni dijital devrim bağlamında yeniden yorumluyor.
ABD’li Papa, yeni teknolojilerin —patentler, algoritmalar, dijital platformlar, altyapılar ve veriler— “yeterli paylaşım ve erişim biçimleri olmaksızın birkaç kişinin elinde yoğunlaştığını” vurguluyor.
Bu yetkinlikleri, verileri ve karar alma kapasitesini bünyesinde toplayan şirket ve platformların; “erişim koşullarını, görünürlük kurallarını, ilişki biçimlerini ve hatta ekonomik fırsatları” belirlediğini ifade ediyor.
Papa, “Bu büyüklükte bir güç birkaç elde yoğunlaştığında, şeffaflığını yitirme ve kamu denetiminden kaçma eğilimi gösterir; yeni bağımlılıklara, dışlanmalara, manipülasyonlara ve eşitsizliklere yol açan çarpık bir gelişme riski artar” uyarısında bulunuyor.
Papa’ya göre devletler ve ulusüstü kurumlar; yerel toplulukların, ara kurumların, okulların ve üniversitelerin yanı sıra kiliseye bağlı ve sivil oluşumların söz sahibi olabilmesi için adil kuralları ve etkili koruma mekanizmalarını garanti altına almakla yükümlü. Böylece insanların hayatını etkileyen iş, hizmetlere erişim, veri yönetimi ve dijital ortamlar gibi konularda alınan kararlara katkı sunulabileceğini belirtiyor.
XIV. Leo, “dijital çağda adil bir toplumsal düzen” çağrısı yapıyor. Bu düzenin fırsatlara eşit erişimi garanti etmesi, küçükleri ve en kırılgan grupları koruması, nefret ve dezenformasyona karşı durması, veri ve teknoloji kullanımını kamu denetimine tabi tutması gerektiğini söylüyor. Papa’ya göre ölçüt yalnızca kâr değil, her insanın onuru ve halkların ortak iyiliği olmalı.
Papa ayrıca, “olumlu bir insan iletişiminin yapay taklidinin —tavsiye, empati, dostluk, sevgi sözleri gibi— tatmin edici ve hatta faydalı olabileceğini; ancak bilinç düzeyi düşük kullanıcılarda aldatıcı olabileceğini ve gerçek bir kişisel özneyle ilişki içinde olunduğu yönünde yanlış bir izlenim yaratabileceğini” belirtiyor.
Yapay zekânın insan onuruna saygı göstermesi için Papa, bu teknolojileri geliştirenlerin açık “sorumluluklara” sahip olması gerektiğini söylüyor. Ayrıca “uygun hukuki çerçeveler, bağımsız denetim, kullanıcıların eğitimi ve kendi görevinden vazgeçmeyen bir siyaset” talep ediyor. Aksi takdirde değişimin yalnızca teknokratik mantıklar tarafından yönetileceği uyarısında bulunuyor.
Papa ayrıca, “sahte profiller, tehlikeli temasları artıran algoritmalar ve görüntü ile videoları manipüle edebilen yapay zekâ araçları” nedeniyle çocukların kandırılması, şantaja uğraması ve cinsel istismara maruz kalması gibi vakaların daha sinsi hâle geldiğine dikkat çekiyor.
Çocukların çok erken yaşta kişisel cep telefonuna sahip olmasının ve bunu yetişkin denetimi olmadan kullanmasının gençlerde kırılganlığı artırabileceğini ve bağımlılıkları teşvik edebileceğini belirtiyor. Bunun çocukları yalnızlaşma, taciz, siber zorbalık ve mahrem görüntü ya da hassas veri paylaşma baskılarına açık hâle getirdiğini ifade ediyor. Bu nedenle yaş sınırları ve hizmet sağlayıcılar için daha fazla sorumluluk talep ediyor.
Metinde çalışma hayatı da ele alınıyor. Papa’ya göre “yapay zekâ konusunda vaat edilen faydaların aksine, mevcut teknoloji yaklaşımları paradoksal biçimde çalışanların vasıflarını zayıflatabilir, onları otomatik gözetim altına sokabilir ve katı, tekrarlayan görevlere mahkûm edebilir.”
Bu nedenle Papa, “otomasyon ve yapay zekânın her uygulamasına, istihdamın korunması, yeniden beceri kazandırma ve çalışanların katılımı için doğrulanabilir önlemlerin eşlik etmesi gerektiğini” vurguluyor. Ona göre teknoloji, dışlanma üretmek için değil, insanın zamanını ve kapasitesini özgürleştirmek için kullanılmalı.