21 Dec Yapay Zekânın Yaratıcısından Uyarı: “Önümüzdeki 2 Yıl Her Şeyi Değiştirebilir”
Image: Nil Taskin Digital Art
Yapay zekânın babalarından biri olarak kabul edilen Yoshua Bengio, Steven Bartlett ile yaptığı podcast’te, yapay zekânın insanlık için nasıl bir dönüm noktasına geldiğini açık sözlülükle anlatıyor. Bengio’nun odağında artık yapay zekânın iyi ya da kötü olup olmadığı değil; nasıl, kimler tarafından ve hangi sınırlar içinde geliştirildiği sorusu var. Özellikle yapay zekânın kontrolsüz biçimde ajanlaşması ve küresel ölçekte güç yoğunlaşması, konuşmanın merkezindeki temel risk alanlarını oluşturuyor. Bu konuşma, yapay zekânın bugün geldiği noktayı ve çok yakın gelecekte insanlık açısından ne anlama gelebileceğini anlamak isteyenler için güçlü bir çerçeve sunuyor.
“Creator of AI: We Have 2 Years Before Everything Changes! These Jobs Won’t Exist in 24 Months!”
Podcast’te Öne Çıkan Ana Başlıklar
1. Ajan (Agentic) AI’ler büyük risk taşıyor
• AI sistemleri artık sadece verilen görevleri cevaplamakla kalmayıp kendi başına plan yapıp hareket edebilecek kapasiteye doğru ilerliyor.
• Bu tür “ajan AI” modelleri kontrolümüzden çıkabilecek hedefler geliştirebilir ve insan niyetinden sapabilir.
• Bengio bunu “kontrol edilemeyen bir güç” gibi tanımlıyor — teknolojiyi geliştirenler için bile öngörülemeyen sonuçlar doğurabilir.
2. Otonom silahlar ve “katil robotlar” kaçınılmaz mı?
• Yapay zekâ ile çalışan otonom silah sistemlerinin teknolojik olarak mümkün ve giderek olası hale geldiğini belirtiyor.
• Regülasyon ve uluslararası denetim olmadan bu tür sistemlerin geliştirilmesi, etik ve güvenlik felaketlerine yol açabilir.
3. Siber suç ve derin sahte içerikler güncel tehditler
• AI yalnızca uzak bir geleceğin sorunu değil — şimdiden deepfake’ler, otomatik kimlik sahtekârlığı ve yapay zekâ destekli siber saldırılar ortaya çıkıyor.
• Bu tür teknolojiler devletler arası casusluktan bireysel dolandırıcılığa kadar geniş bir yelpazede kötüye kullanılabilir.
4. İş gücünde büyük dönüşüm (bazı işler kaybolabilir)
• Bengio, birkaç yıl içinde pek çok mesleğin radikal şekilde dönüşeceğini veya tamamen ortadan kalkacağını ima ediyor.
• Özellikle tekrarlayan, yapılabilir işlerde AI otomasyonu insan gereksinimini azaltabilir.
5. Düzenleme ve kontrol eksikliği
• Mevcut yapay zekâ düzenlemelerinin yüksek riskli teknolojiler (ör. gıda güvenliği gibi) kadar güçlü olmadığını vurguluyor.
• Daha sıkı devlet denetimi, şeffaflık, uluslararası işbirliği ve etik standartlar gerekliliğini savunuyor.
6. Zaman daralıyor
• Konuşmanın başlığında da ifade edildiği gibi Bengio, önümüzdeki birkaç yılın (örneğin 24 ay gibi kısa bir süre) kritik olacağını ve bu sürede riskleri azaltmak için adımlar atılmazsa sonuçlarının geri dönüşü zor olacağını söylüyor.
Yoshua Bengio’nun Uyarıları Üzerine Eleştirel Analiz
Yoshua Bengio’nun bu konuşmadaki temel pozisyonu şu:
Sorun AI’nin varlığı değil, kontrolsüz biçimde “ajanlaşması” ve güç yoğunlaşması.
Yani klasik “teknoloji kötüdür” söylemi değil;
Yanlış yönde ve yanlış hızda geliştirilen teknoloji eleştirisi yapıyor.
1. Agentic AI korkusu: teknik olarak haklı mı?
Bengio’nun en güçlü argümanı burada.
Agentic AI dediği şey:
- Sadece cevap veren değil,
- Hedef belirleyen
- Alt hedefler üreten
- Uzun vadeli plan yapan sistemler.
Buradaki risk, “bilinç kazanması” değil;
amaç fonksiyonunun insan değerleriyle hizalanmaması.
Eleştirel not:
- Bengio’nun bu konuda alarmist olduğu söylenebilir,
- Ama bu argüman bilim dünyasında -ciddiye alınan- bir risk (özellikle alignment problemi).
Yani bu, bilim kurgu değil;
“Yanlış optimize edilmiş ama çok güçlü bir sistem” problemi.
2. Katil robotlar ve otonom silahlar: kaçınılmaz mı?
Bengio burada etik değil, jeopolitik bir gerçekliğe işaret ediyor:
“Bir ülke durursa, diğeri durmaz.”
Bu argüman maalesef tarihsel olarak doğru:
- Nükleer silahlar
- Biyolojik silahlar
- Drone savaşları
Eleştirel not:
- “Kaçınılmaz” kelimesi determinist ve tartışmalı,
- Ama silahlanma yarışları bağlamında gerçekçi.
Buradaki asıl eleştiri:
Teknoloji şirketlerinin fiilen savunma sanayi aktörü haline gelmesi.
3. Siber suç ve deepfake tehdidi: burada abartı yok
Bu başlıkta Bengio gelecekten değil, şimdiden bahsediyor.
- Deepfake dolandırıcılıklar
- Otomatik kimlik taklidi
- AI destekli phishing
- Sahte sesle para transferleri
Eleştirel not:
- Burada neredeyse kimse itiraz etmiyor,
- Çünkü tehdit halihazırda yaşanıyor.
Yani Bengio’nun bu kısmı “kehanet” değil, tespit.
4. “AI regülasyonu gıda güvenliğinden bile zayıf” argümanı
Konuşmanın en çarpıcı ama en politik kısmı.
Bengio diyor ki:
- Bir gıda piyasaya çıkmadan önce onlarca testten geçiyor,
- Ama milyarlarca insanı etkileyebilecek AI modelleri, şirket içi kararlarla yayına alınıyor.
Eleştirel not:
- Karşı argüman: “Aşırı regülasyon inovasyonu boğar”
- Bengio’nun cevabı: “Kontrolsüz inovasyon felaket üretir.”
Bu noktada Bengio, teknoloji karşıtı değil;
risk sınıflandırması istiyor.
5. “AI insanlığın varlığını tehdit edebilir mi?” meselesi
Burası en tartışmalı alan.
Bengio:
- Kısa vadede “terminator” senaryosu demiyor,
- Ama uzun vadeli kontrol kaybını varoluşsal risk olarak görüyor.
Eleştirel not:
- Bu argüman, “low probability – high impact” kategorisinde,
- Yani ihtimal düşük olabilir ama sonuç geri dönülmez.
Burada Bengio’nun motivasyonu akademik olduğu kadar insani:
- Çocuklarından bahsetmesi tesadüf değil,
- “Ben kazanmıyorum, teşvikim yok” vurgusu bilinçli.
Genel Değerlendirme
Güçlü yönleri:
- Teknik altyapıya dayalı
- Şirket çıkarlarından bağımsız
- “AI kötü” demiyor, “yönü yanlış” diyor
Zayıf / tartışmalı yönleri:
- Zaman çizelgesi (2 yıl vurgusu) psikolojik baskı yaratıyor
- Bazı senaryolar ihtimale dayalı
- Kamuoyunda “panik” üretme riski var
Asıl mesele ne?
Bengio’nun asıl derdi şu cümlede özetlenebilir:
“İnsanlık tarihindeki en güçlü aracı, en zayıf denetimle geliştiriyoruz.”
Bu, AI’ye karşı bir manifesto değil;
Bir sorumluluk çağrısı.
Yoshua Bengio Kimdir?
Yoshua Bengio, yapay zekânın önde gelen isimlerinden biridir.
Bilimsel Ün:
• Montreal Üniversitesi Bilgisayar Bilimi profesörü.
• Google Scholar’da en çok atıf alan bilim insanlarından biri.
• 2018 Turing Ödülü sahibi — bilgisayar dünyasının en prestijli ödülü.
Derin Öğrenme Önemi:
• Derin öğrenme ve modern yapay zekâ araştırmalarına büyük katkı yaptı.
• Geoffrey Hinton ve Yann LeCun ile birlikte “AI’nin üç tanrı babasından biri” (AI Godfather) olarak anılıyor.
Güncel Odak:
• AI güvenliği ve etik üzerine çalışan LawZero adlı bir sivil toplum kuruluşunu kurdu.
• AI’nin tehlikelerini yönetme ve “insan odaklı, zararsız” AI sistemleri tasarlama üzerine odaklanıyor.
İhtiyat ilkesi – önlem ilkesi (Precautionary Principle)
İhtiyat ilkesi, bir faaliyet veya teknolojinin insan sağlığına, topluma ya da çevreye ciddi ve geri dönüşü olmayan zararlar verme ihtimali varsa, bilimsel kesinlik henüz sağlanmamış olsa bile, önleyici tedbirler alınması gerektiğini savunan yaklaşımdır.
“Zarar ihtimali büyükse, ‘emin değiliz’ demek hareketsiz kalmak için gerekçe değildir.”
Nerelerde kullanılır?
– Çevre politikaları
– Gıda güvenliği
– Halk sağlığı
– İklim krizi
– Yapay zekâ ve yeni teknolojiler (Bengio’nun tam olarak işaret ettiği nokta)
Bengio bağlamında ne anlama geliyor?
Yapay zekâ çok güçlü ve potansiyel olarak geri dönüşü olmayan riskler barındırıyorsa, “henüz kesin kanıt yok” diyerek sınırsız geliştirmeye devam etmek yerine, önce güvenlik ve kontrol mekanizmaları kurulmalı diyor.
Nil Taşkın