ANKARA - BHA
Türk İnternet Medya Birliği (TİMBİR) Yüksek İstişare Kurulu Başkan Vekili ve Haber7.com yazarı Prof. Dr. Zakir Avşar, 'Yapay zekâ insanlığın sonunu mu getirecek?' başlıklı yazısında şu ifadelere yer verdi:
'Yapay zekâ insanlığın sonunu mu getirecek?
Yapay zekâyı dert ortağı gibi kullananları mı ararsınız, günlük falına baktıranı mı? İşleri açısından bir kolaylaştırıcı olarak kullananları mı yoksa boş vakit faaliyeti olarak göreni mi?
Hayatımıza o kadar fazlasıyla dâhil oldu ki tartışmaların boyutu ve yönü de değişmeye başladı:
Nihayet Trump da bir yerinden dahil oldu ve yapay zeka tartışmalarının 'yapay' olduğunu belirtti: Dile getirilen tehlikelere katılmadığını söyledi.
Trump'ın dahil olması tartışmaların ana fikrini değiştirmiyor elbette:
Çünkü yapay zekânın geleceği üzerine yürütülen tartışmalar daha hızlı, daha doğru veya daha üretken makineler yapıp yapamayacağımız sorusundan ibaret değil.
Tartışmaların merkezine yerleşen asıl meseleler daha yetenekli, daha özerk ve daha geniş bir görev alanında hareket edebilen sistemlerin insan denetimiyle ne ölçüde uyumlu kalabileceği konusunda.
Tabii uyarılar da peş peşe geliyor. Ancak yapay zekâ konusunda en ciddi uyarıların önemli bir bölümünün teknolojiye dışarıdan bakan çevrelerden değil bizzat bu teknolojinin geliştirilmesinde öncü rol üstlenmiş bilim insanları ve şirket yöneticilerinden gelmesi ise işin en dikkat çekici tarafı:
Bu bağlamda Anthropic'in kurucularından Dario Amodei'nin uyarıları önemli. Hem de çok önemli: Amodei'nin yaklaşımı teknolojik ilerlemenin bütünüyle durdurulmasına yönelik değil ama kapasite artışının güvenlik araştırmalarının gerisinde kalmaması yönünde. Ona göre gelişmiş sistemler insanlara soruların cevaplarını veren pasif araçlar olmaktan çıkarak daha fazla özerklik kazandıkça, güvenlik değerlendirmelerinin de aynı hızda gelişmesi gerekmektedir.
Amodei'nin bağımsız güvenlik değerlendirmeleri ve uluslararası koordinasyon çağrısı yapay zekâ güvenliğinin şirketlerin iç denetim mekanizmalarına bırakılamayacağı yönündeki düşüncenin güçlendiğini göstermektedir.
Benzer biçimde OpenAI'nin CEO'su Sam Altman insanlık açısından çok düşük bile olsa ciddi bir felaket ihtimalini kabul edilemez bulması konunun salt teknik performans üzerinden değerlendirilemeyeceğini göstermektedir. Burada elbette önemli olan belirli bir yüzdeye inanıp inanmamaktan ziyade düşük olasılıklı fakat gerçekleşmesi durumunda geri döndürülemeyecek sonuçlar doğurabilecek risklerin nasıl yönetileceğidir. Nükleer güvenlikten biyogüvenliğe kadar birçok alanda olduğu gibi yapay zekâda da risk yönetimi beklenen zararın büyüklüğüne ve olası sonucun geri döndürülebilir olup olmadığına da dayanmalıdır.
Toronto Üniversitesi'nden bilgisayar bilimcisi ve yapay zekâ araştırmacısı Geoffrey Hinton'ın uyarıları ise meselenin daha temel bir boyutuna işaret etmektedir. Derin öğrenme alanının öncülerinden biri olan Hinton yapay zekânın ekonomik sonuçları ile birlikte insan bilişsel kapasitesini aşabilecek sistemlerin ortaya çıkması ihtimali üzerinde de durmaktadır.
Hinton'ın daha önce sıraladığı riskler arasında iş kaybı, ayrımcılık, yanlış bilgi, toplumsal kutuplaşma, otonom silah sistemleri ve insanlığın varlığına yönelik daha uzun vadeli tehditler yer alıyor:
Kanada Université de Montréal'de bilgisayar bilimi profesörü Yoshua Bengio da özellikle 'uyum' veya alignment problemine dikkat çekiyor. 'İnsanların amaçları ile gelişmiş bir yapay zekâ sisteminin gerçekleştirmeye çalıştığı hedefler arasında güvenilir bir uyumu nasıl sağlayacağız?' sorusunu soruyor. Bir yapay zekâ sisteminin insanlardan nefret etmesi veya insanlara zarar vermeyi istemesi gerekmez. Yanlış tanımlanmış bir hedefi son derece başarılı biçimde gerçekleştirmeye çalışması dahi ciddi sonuçlar doğurabilir.
Bu nokta, yapay zekâ hakkındaki popüler tartışmanın önemli bir yanılgısını da ortaya koymaktadır. Tehlikenin mutlaka 'bilinç kazanmış ve insanlara düşman olmuş bir makine' biçiminde ortaya çıkması şart değil. Daha gerçekçi problem yüksek düzeyde yetenekli ve belirli hedeflere göre çalışan özerk bir sistemin, kendisine verilen hedefi insanların amaçladığından farklı biçimde yorumlaması veya hedefini gerçekleştirmek için öngörülmeyen yollar seçmesidir. Dolayısıyla gelecekteki güvenlik problemini makinenin 'ne düşündüğü' üzerinden değil hangi hedef fonksiyonuyla çalıştığı, hangi yetkilere sahip olduğu, hangi kaynaklara erişebildiği ve davranışlarının insanlar tarafından ne ölçüde denetlenebildiği üzerinden değerlendirmek gerekir.
Nitekim 2026 Uluslararası Yapay Zekâ Güvenliği Raporu'nun ortaya koyduğu bilimsel tablo da meseleyi tek bir kıyamet senaryosuna indirgememektedir.
Yüzden fazla uzmanın katkısıyla hazırlanan ve otuzdan fazla ülke ile uluslararası kuruluşların katılımıyla oluşturulan rapor kötüye kullanım, siber güvenlik, insan denetiminin kaybedilmesi, ekonomik etkiler, insan özerkliği ve güç yoğunlaşması gibi birbirinden farklı risk alanlarını birlikte ele almaktadır.
Rapora göre bazı riskler halihazırda gözlemlenebilir durumdayken daha ileri düzeydeki bazı risklerin gerçekleşme ihtimali ve zamanı konusunda önemli belirsizlikler bulunmaktadır.
Yapay zekânın en ciddi sorunlarından biri belki de 'zekâ' değil, 'öngörülebilirlik' olacaktır. Bir sistemin ne kadar güçlü olduğundan ziyade hangi koşullarda nasıl davranacağının ne ölçüde tahmin edilebildiği önem kazanacaktır.
İnsanlar uzun yıllardır karmaşık teknolojik sistemleri yönetmektedir ancak kendi kapasitesinin bazı boyutlarında insanı aşabilen ve aynı zamanda milyonlarca kullanıcıya ölçeklenebilen sistemler söz konusu olduğunda geleneksel denetim anlayışının yetersiz kalması mümkündür. Bununla birlikte yapay zekâ risklerini makinenin gelecekte kontrolden çıkması ihtimali indirgeyerek değerlendirmek de eksik bir yaklaşım olacaktır.
Yoshua Bengio'nun özellikle vurguladığı ikinci büyük problem teknolojik gücün insanlar tarafından kötüye kullanılabilmesidir. İnsan seviyesinde bilişsel kapasitenin çok düşük maliyetle ve çok geniş ölçekte erişilebilir hâle gelmesi bile siber saldırılar, dezenformasyon, biyolojik tehditler, manipülasyon ve siyasal güç yoğunlaşması bakımından ciddi sonuçlar doğurabilir.
Dolayısıyla yapay zekâ tartışmasının bir diğer merkezi kavramı 'güç yoğunlaşması'dır. NVIDIA'nın kurucusu, başkanı ve CEO'su Jensen Huang'ın ve Hugging Face'in kurucu ortağı ve CEO'su Clément Delangue'ın güvenlik tartışmalarına yönelttiği eleştiriler bu açıdan dikkate değerdir.
Gelişmiş yapay zekâların güvenliğini birkaç büyük teknoloji şirketinin kendi iç süreçlerine bırakmak güvenlik amacıyla yapılan düzenlemelerin zamanla piyasaya giriş maliyetlerini yükseltmesine ve teknolojik gücün daha az sayıda aktörde toplanmasına yol açabilir. Bu nedenle güvenlik ile rekabet arasında kurulacak denge, teknik olduğu kadar ekonomik ve siyasal bir problemdir.
Buradan hareketle yapay zekâ konusunda iki aşırı yaklaşımın da bilimsel açıdan yetersiz olduğu söylenebilir. Birinci yaklaşım, yapay zekânın insanlığı kaçınılmaz biçimde yok edeceğini varsayan determinist bir karamsarlıktır. İkinci yaklaşım ise mevcut sistemlerin henüz insan düzeyinde genel zekâya ulaşmadığı gerekçesiyle ileriye dönük bütün riskleri önemsiz sayan teknolojik iyimserliktir. Bilimsel yaklaşım bu iki uç arasında, kanıtların izin verdiği ölçüde konuşmayı gerektirir.
Bugünkü veriler, yapay zekânın olağanüstü hızlı geliştiğini ve bazı risklerin artık teorik olmaktan çıktığını göstermektedir. Siber saldırılarda yapay zekâ kullanımına ilişkin kanıtların artması, biyolojik tehditler açısından bazı modellerin yeteneklerinin endişe verecek seviyeye ulaşması ve güvenlik testlerinin giderek daha karmaşık hâle gelmesi ihtiyatlı davranmak için yeterli nedenlerdir. Ancak gelecekte insanüstü düzeyde özerk bir sistemin ortaya çıkacağı veya bunun kesin olarak insanlığın sonunu getireceği yönünde bilimsel kesinlik bulunduğunu söylemek de mümkün değildir.
Asıl mesele bu belirsizliği görmezden gelmemektir. Yapay zekâ araştırmalarının önümüzdeki dönemde daha yetenekli modeller üretmeye değil bu modellerin sınırlarının ölçülmesine, davranışlarının açıklanmasına, bağımsız biçimde denetlenmesine, kötüye kullanımın önlenmesine ve gerektiğinde güvenli biçimde devre dışı bırakılmasına da odaklanması gerekir.
Yoshua Bengio'nun önerdiği gibi, yüksek riskli sistemlerin tam ölçekli kullanımından önce güvenliklerinin gösterilebilir olması ve bağımsız denetim mekanizmalarının geliştirilmesi, devletlerin bu sistemler üzerinde etkili gözetim kapasitesi oluşturması bu açıdan önem taşımaktadır.'
