Bölüm Başkanımız Doç. Dr. Taylan Maral, Yapay Zekâ Güvenliği Tartışmalarını Sputnik Türkiye'ye Değerlendirdi

İstanbul Gelişim Üniversitesi Yeni Medya ve İletişim Bölüm Başkanı Doç. Dr. Taylan Maral, Sputnik Türkiye'ye konuk oldu. Maral, Bill Gates'in yapay zekânın felaket senaryolarında 1 milyar insanın hayatına mal olabileceğine dair uyarısı ve önde gelen yapay zekâ şirketlerinden güvenlik uzmanlarının art arda istifa etmesi üzerine değerlendirmelerini paylaştı.

"Her şey kontrol altında" anlatısı çöküyor

Maral, son gelişmelerin kamuoyuna sunulan "her şey kontrol altında" anlatısının laboratuvarların içinde çöktüğünü gösterdiğini söyledi. Asıl meselenin bir Hollywood distopyası ya da robotların insanlığa savaş açması olmadığını belirten Maral, istifa eden isimlerin dışarıdan konuşan felaket tellalları değil, modellerin mimarisini bizzat kuran baş araştırmacılar olduğunu vurguladı. Bu uzmanların temel kaygısı, yapay zekânın işlem kapasitesi üstel bir hızla büyürken, bu gücü insanlığın güvenliğiyle uyumlu kılacak hizalama mekanizmalarının çok yavaş ilerlemesi. Maral'a göre şirket yönetimleri, güvenlik denetimlerine ayrılması gereken bütçeleri pazar payı kapma hırsıyla ticari ürünlere aktarıyor. Durumu şu sözlerle özetledi:

"Korkulması gereken şey zekanın kendi başına gelişmesinden çok, fren tertibatı henüz tasarlanmamış bir yarış arabasının motor gücünün her gün iki katına çıkarılması ve bu sürecin tamamen şirketlerin kar odaklı inisiyatifine bırakılmış olmasıdır."
 

Uluslararası denetim mimarisi çağrısı

Yapay zekânın biyolojik veya siber saldırılarda kötüye kullanımının nasıl engellenebileceği sorusuna da yanıt veren Maral, küresel ölçekte bağlayıcı ve yaptırım gücü olan bir denetim mekanizmasının fiilen bulunmadığını belirtti. Bugünkü tablonun, büyük teknoloji şirketlerinin kendi kendini denetlediği bir "öz denetim" yanılsamasından ibaret olduğunu ifade eden Maral, yapay zekânın doğası gereği çift kullanımlı bir teknoloji olduğuna dikkat çekti. Örneğin yeni bir kanser ilacı keşfetmek için tasarlanan biyolojik bir modelin, birkaç parametre değişikliğiyle tehlikeli patojenlerin veya toksinlerin üretimine yönelik bilgi üretebileceğini söyledi.

Maral, çözüm olarak Uluslararası Atom Enerjisi Ajansı (IAEA) modeline benzer, devletlerüstü, tarafsız ve yaptırım yetkisine sahip bir uluslararası denetim yapısı kurulmasını önerdi. Bu kapsamda şu adımların yasal zorunluluk haline getirilmesi gerektiğini belirtti:

• Gelişmiş çip tedarik zincirinin takip edilmesi
• Büyük hesaplama kümelerinin kayıt altına alınması
• Hiçbir sınır modelin bağımsız güvenlik testlerinden geçmeden halka açılmaması

Asıl tehlike: "Epistemik iflas"

İnternetin bir anda çökmesinin yakın bir ihtimal olmadığını söyleyen Maral, bizi bekleyen asıl krizin "epistemik iflas", yani hakikat zemininin çökmesi olduğunu ifade etti. Maral'ın öngördüğü başlıca tehditler şöyle:

• Sentetik metinler, deepfake görüntüleri ve hedefli dezenformasyon dalgalarıyla dijital ağların, güvenilir bilginin doğrulanamadığı bir gürültü yığınına dönüşmesi
• Otonom ajanların finansal piyasalar, enerji nakil hatları, lojistik zincirleri ve savunma sistemleri gibi kritik altyapılara entegre edilmesi
• İnsan beyninin işlem hızını aşan algoritmik karar mekanizmaları arasındaki zincirleme geri besleme döngülerinin, saniyeler içinde küresel ölçekli krizler yaratabilmesi

Maral'a göre modern medeniyetin işleyişini felç edebilecek olan şey, bilinçli bir makinenin interneti ele geçirmesinden çok, ne yaptığını tam olarak öngöremediğimiz otonom sistemlere duyulan kontrolsüz güven ve bağımlılık.