Papa Francis'ten “yapay zekaya düzenleme getirilsin” çağrısı

Katolikler’in ruhani lideri Papa Francis, yapay zekanın etik kurallar çerçevesinde geliştirilip kullanılması için uluslararası bir anlaşma yapılması çağrısında bulundu. Papa şefkat, merhamet, ahlak ve affetme gibi insani değerlerden yoksun teknolojinin oluşturduğu risklerin çok büyük olduğunu söyledi.

Yapay zekaya bağlayıcı ve küresel düzenlemeler getirilmesi çağrılarına katılan Papa Francis, bu mesajı Katolik Kilisesi'nin 1 Ocak'ta kutladığı Dünya Barış Günü için hazırladığı mesaja da ekledi. Vatikan, mesaj metnini Perşembe günü yayınladı.

Papa Francis için yapay zekaya etik kurallar çerçevesinde düzenleme getirilmesi, kişisel bir boyut da taşıyor. Bu yılın başında yapay zekayla üretilen ve Papa'yı beyaz kabarık bir palto giymiş gibi gösteren görüntüler sosyal medyada hızla yayılmıştı.

Papa'nın mesajı, Avrupa Birliği'nin dünyanın ilk kapsamlı yapay zeka kurallarını içeren ön tasarısının onaylanmasından birkaç gün sonra geldi. AB'nin yapay zeka kurallarının, kendi düzenlemelerini hazırlayan hükümetler için standart oluşturması bekleniyor.

Yapay zekanın sunduğu olanakları kabul eden Papa Francis, teknolojik ilerlemeleri de insan zekasının yaratıcılığının bir göstergesi olduğu için övgüyle karşıladı.

Ancak Papa, yapay zekanın demokratik seçimlerden sanata hayatın birçok alanını sekteye uğratacak değişiklikler getirebileceğine inanan insan hakları savunucuları ve etik uzmanlarının ortaya koyduğu ciddi varoluşsal kaygıları da mesajında öne çıkardı.

Papa'nın mesajını Perşembe günkü basın toplantısında açıklayan Kardinal Michael Czerny, “Yapay zeka, geleceğimizin en yüksek bahisli kumarını temsil ediyor olabilir. Eğer sonucu kötü olursa bunun sorumlusu insanlıktır” dedi.

Papa'nın mesajında, yapay zekanın teknolojik gelişimi ve kullanımının, temel insan haklarının güvence altına alınması, barışın desteklenmesi ve dezenformasyon, ayrımcılık ve çarpıtmaya karşı korunmasına ilişkin kaygıları ön planda tutması gerektiği vurgulandı.

Papa'nın yapay zekaya ilişkin en büyük kaygısı ise silah sektörüyle ilgili. Papa, geleneksel silah imalatçılarını bile “ölüm tacirleri” olarak nitelemişti.

Papa, uzaktan kumandalı silah sistemlerinin insanlığı “savaşın dev trajedisinden uzaklaştırdığını, bu silah sistemlerinin yol açtığı yıkıma duyarsızlığı arttırdığını ve silah kullanma sorumluluğunun ağırlığını azalttığını” kaydetti.

Mesajda, “Ahlaki muhakeme ve etik karar alma kapasitesi, karmaşık algoritmalardan çok daha fazlasıdır, bu kapasite bir programlama makinasına indirgenemez” ifadesi yer aldı.

Ölümcül Otonom Silah Sistemleri'nin insanların “makul, anlamlı ve tutarlı” gözetimi altında olması gerektiğini kaydeden Papa, dünyanın “savaş budalalığını teşvik eden” yeni teknolojilere ihtiyacı olmadığının altını çizdi.

Papa ayrıca insanları sınıflandıran ya da derecelendiren otomasyon sistemlerinin ciddi etkilerine karşı da uyarıda bulundu. Robotların istihdam üzerindeki olumsuz etkilerinin yanısıra Papa, bu tür teknolojilerin örneğin konut kredisine başvuran bir kişinin güvenilirliğini, bir göçmenin siyasi sığınma hakkını ya da daha önce bir suçtan hüküm giyen bir kişinin yeniden suç işleme olasılığını belirleyebileceği uyarısında bulundu.

Papa, “Algoritmalar insan haklarını nasıl anladığımızı belirlememeli, şefkat, merhamet ve affetme gibi insani değerleri bir kenara atmamalı ya da bir insanın değişebileceği, geçmişini geride bırakabileceği olasılığını safdışı bırakmamalı” dedi.