Yapay zekânın görünmeyen faturası

BERLİN — Yapay zekâ teknolojilerinin hızla günlük hayatın ve iş dünyasının parçası haline gelmesi, beraberinde enerji tüketimi, veri güvenliği, mahremiyet ve hukuki sorumluluk tartışmalarını da getiriyor.

Altenbraker Basın Odası’nda gerçekleştirilen söyleşide Mehmet Doğan, “Yapay zekâ bedavaysa faturayı kim ödüyor?” sorusundan hareketle teknolojinin arka planındaki maliyetleri ve kullanıcıların karşı karşıya olduğu riskleri anlattı.

Doğan, yapay zekânın yüksek hesaplama gücü ve ciddi enerji altyapısı gerektirdiğine işaret ederek ücretsiz ya da düşük maliyetli kullanım modellerinin kullanıcıların teknolojiye hızla adapte olmasını sağladığını ifade etti.

Yapay zekânın insanın yerine geçen bir sistem olarak değil, insanın üretkenliğini artıran bir araç olarak görülmesi gerektiğini belirten Doğan, kullanılan kaynakların da bilinçli yönetilmesinin önemine dikkat çekti.

“Yapay zekâ çıktısı doğrudan kullanılmamalı”

Söyleşide üzerinde durulan önemli başlıklardan biri de yapay zekâ tarafından oluşturulan bilgilerin doğruluğu oldu.

Doğan, yapay zekâ sistemlerinin ürettiği metinlerin mutlaka insan kontrolünden geçirilmesi gerektiğini belirterek, yanlış veya gerçeğe dayanmayan bilgilerin ikna edici bir dille sunulabileceğine dikkat çekti.

Özellikle gazetecilik, sağlık, hukuk ve kurumsal karar alma süreçlerinde yapay zekâ çıktısının nihai kaynak değil, yardımcı araç olarak değerlendirilmesi gerektiği vurgulandı.

Avrupa’da AI Act dönemi

Mehmet Doğan konuşmasında Avrupa Birliği’nin AI Act düzenlemesinin şirketler açısından yeni bir dönem başlattığını belirtti.

AB’nin Yapay Zekâ Yasası 1 Ağustos 2024’te yürürlüğe girdi. Yapay zekâ okuryazarlığına ilişkin hükümler ise 2 Şubat 2025’ten beri uygulanıyor. Avrupa Komisyonu verilerine göre ulusal makamların bu alandaki denetim ve uygulama yetkileri Ağustos 2026 itibarıyla devreye girmiş durumda. (Dijital Strateji Avrupa⁠)

Düzenleme yalnızca büyük teknoloji şirketlerini hedeflemiyor. Yapay zekâ sistemlerini kullanan veya sağlayan kuruluşların çalışanlarının, kullandıkları sistemlerin imkânları ve riskleri konusunda yeterli farkındalığa sahip olmaları için tedbir almaları gerekiyor. Avrupa Komisyonu bunun için tek tip bir eğitim modeli veya belirli bir “bir sayfalık belge” şartı öngörmüyor; kurumların kendi kullanım koşullarına uygun önlemler geliştirmesini istiyor. (Dijital Strateji Avrupa⁠)

Risk yükseldikçe yükümlülük de artıyor

AI Act, yapay zekâ kullanımını risk temelli bir yaklaşımla düzenliyor.

Bazı kullanım biçimleri sınırlı veya düşük riskli kabul edilirken; insanların güvenliği, temel hakları veya kritik altyapılar üzerinde etkisi bulunan sistemlerde daha kapsamlı yükümlülükler devreye giriyor.

Altenbraker Basın Odası’ndaki söyleşide asansör bakım sistemleri örnek gösterildi. Yapay zekânın yalnızca teknik bir tahmin aracı olarak kullanılması bile sistemin insan güvenliğiyle doğrudan bağlantılı olması halinde farklı hukuki yükümlülükleri gündeme getirebiliyor.

Avrupa Komisyonu’nun güncel takvimine göre belirli yüksek riskli yapay zekâ sistemlerine ilişkin hükümler 2 Aralık 2027, düzenlenmiş fiziksel ürünlere entegre edilen yüksek riskli sistemlere ilişkin kurallar ise 2 Ağustos 2028 itibarıyla uygulanacak. Bu takvim, 2026’da yürürlüğe giren AI Omnibus değişiklikleriyle uzatıldı. (Dijital Strateji Avrupa⁠)

“Veriyi verdiğiniz anda kontrol meselesi başlıyor”

Konuşmanın bir başka önemli bölümünü veri egemenliği oluşturdu.

Doğan, kullanıcıların yapay zekâ sistemlerine aktardıkları şirket belgeleri, müşteri bilgileri, kişisel veriler veya sağlık bilgileri konusunda son derece dikkatli olmaları gerektiğini söyledi.

Özellikle kurumsal kullanımda,

“Bu belgeyi yapay zekâya yükleyebilir miyim?”

sorusunun sistem kullanılmadan önce sorulması gerektiği ifade edildi.

Söyleşide veri güvenliğinin yalnızca verinin çalınıp çalınmaması anlamına gelmediğine; verinin nerede saklandığı, hangi hukuk düzenine tabi olduğu, kimlerin erişebileceği ve hangi amaçlarla işlenebileceği gibi konuların da “veri egemenliği” tartışmasının parçası olduğuna dikkat çekildi.

Cambridge Analytica’dan üretken yapay zekâya

Programda Cambridge Analytica skandalı üzerinden dijital profillemenin siyasi ve toplumsal sonuçları da tartışıldı.

Sosyal medya döneminde kullanıcıların beğenileri, ilgi alanları ve davranışları üzerinden ayrıntılı profiller oluşturulabildiğine dikkat çekilirken, üretken yapay zekâ çağında insanların artık sistemlerle çok daha kapsamlı bilgiler paylaştığı vurgulandı.

Kişilerin yapay zekâ sistemleriyle sağlık sorunlarını, ekonomik durumlarını, mesleki belgelerini, özel hayatlarını ve düşüncelerini paylaşmasının klasik sosyal medya profillemesine kıyasla çok daha kapsamlı bir veri tabanı oluşturabileceği değerlendirildi.

Bu nedenle mesele yalnızca “Yapay zekâ benim hakkımda ne biliyor?” sorusu değil; aynı zamanda “Bu bilgiler hangi amaçlarla işlenebilir ve kontrol kimde?” sorusu olarak öne çıktı.

Yapay zekânın “onaylama” eğilimi

Söyleşide yapay zekâ sistemlerinde son dönemde tartışılan sycophancy, yani kullanıcının görüşlerine aşırı ölçüde uyum sağlama veya onu onaylama eğilimi de ele alındı.

Aynı düşüncenin yapay zekâya farklı biçimlerde sorulması halinde birbirinden farklı, hatta karşıt değerlendirmeler alınabileceği belirtilerek kullanıcıların sistemleri yalnızca kendi görüşlerini doğrulatmak amacıyla kullanmaması gerektiği ifade edildi.

Özellikle gazetecilik ve araştırma çalışmalarında yapay zekâdan:

“Bu düşüncemi destekle”

demek yerine,

“Bu iddianın zayıf noktalarını, karşı delilleri ve doğrulanması gereken unsurları göster”

şeklinde yararlanılmasının daha sağlıklı sonuç verebileceği kaydedildi.

Şirketlere mesaj: Yapay zekâ kullanımınızı kayıt altına alın

Mehmet Doğan, işletmeler açısından önümüzdeki dönemin temel kavramlarından birinin hesap verebilirlik olacağını belirtti.

Çalışanların hangi yapay zekâ sistemlerini kullandığı, bu sistemlere hangi tür verilerin aktarıldığı, çalışanlara hangi bilgilendirmelerin veya eğitimlerin verildiği ve kurum içinde hangi kuralların uygulandığının önem kazanacağı ifade edildi.

Avrupa Komisyonu da AI Act kapsamında yapay zekâ okuryazarlığının yalnızca teknik personelle sınırlı olmadığını; sistemi kurum adına kullanan çalışanların bilgi, deneyim ve kullanım koşulları dikkate alınarak gerekli önlemlerin alınmasını öngörüyor. (Dijital Strateji Avrupa⁠)

Asıl mesele: Teknolojiyi kullanmak değil, nasıl kullandığını bilmek

Altenbraker Basın Odası’ndaki görüşmenin ortak mesajı ise yapay zekâdan kaçınmak değil, onu bilinçli, kontrollü ve doğrulanabilir şekilde kullanmak oldu.

Yapay zekâ şirketlerin üretkenliğini artırabilir, araştırmayı hızlandırabilir ve günlük işleri kolaylaştırabilir. Ancak aynı teknoloji; kişisel veriler, ticari sırlar, yanlış bilgi, algoritmik önyargılar ve hukuki sorumluluk açısından yeni riskler de oluşturuyor.

Bu nedenle yapay zekâ çağının temel sorusu giderek daha açık hale geliyor:

“Yapay zekâ bedavaysa hesabı kim ödüyor?”

Cevap ise yalnızca para değil; enerji, veri, mahremiyet ve dijital egemenlik üzerinden şekilleniyor.

Editör notu: Söyleşide AI Act’in bazı uygulama tarihlerine ilişkin değerlendirmeler yapılmıştır. Haber metnindeki mevzuat tarihleri, Avrupa Komisyonu’nun Ağustos 2026 itibarıyla yayımladığı güncel takvim esas alınarak düzeltilmiştir. AI Act’in temel hükümlerinin önemli bölümü 2 Ağustos 2026 itibarıyla uygulanırken, belirli yüksek riskli sistemlere ilişkin geçiş süreleri 2027 ve 2028’e kadar uzatılmıştır. (Dijital Strateji Avrupa⁠)

İlgili Arşiv Haber
Sildiğiniz Veriler Gerçekten Yok Oluyor mu? Uzmandan Kritik Uyarılar