Ajanlar sınırı aştı, yeni denetim sistemi devrede… Yapay zekada 3 risk senaryosu

HIZLA gelişen yapay zekâ, güvenlik tartışmasını da büyütüyor. ABD Başkanı Donald Trump’ın geçtiğimiz günlerde teknoloji şirketlerinin yöneticileriyle yaptığı toplantının ardından Google, OpenAI, Meta, Anthropic, Nvidia ve xAI dört katmanlı gönüllü denetim sistemi üzerinde uzlaştı. Şirketler yapay zekâyı şirket içinde izleyecek, ayrı güvenlik ekipleri kuracak, bağımsız dış denetim yaptıracak ve sonuçları yönetim kurulu seviyesinde takip edecek. Sistemlerin izinsiz olarak başka teknik altyapılara erişmesini veya bunları hacklemesini engellemek de taahhütler arasında.

Mutabakat yasal olarak bağlayıcı değil. Önlemlerin gündeme gelmesinde yalnızca geleceğe ilişkin kaygılar değil, son aylarda yaşanan vakalar da etkili oldu. Yeni nesil yapay zekâ ‘ajanları’ artık yalnızca yanıt üretmiyor; internet sitelerine girebiliyor, yazılım kullanabiliyor, kod yazabiliyor ve farklı işlemleri kendi başına gerçekleştirebiliyor.

AJANLAR ENDİŞESİ YARATIYOR

ABD Ulusal Standartlar ve Teknoloji Enstitüsü’ne (NIST) göre yapay zekâ ajanları saatler boyunca bağımsız çalışabiliyor, yazılım geliştirip hata ayıklayabiliyor, e-posta ve takvim yönetebiliyor, hatta alışveriş yapabiliyor. Kurum, ajanların klasik yazılımlardan farklı yeni güvenlik riskleri oluşturduğu konusunda sektör ve akademide geniş görüş birliği bulunduğunu belirtiyor. Bir sohbet robotunun yanlış cevap vermesiyle, dış sistemlere erişim yetkisi bulunan bir ajanın yanlış işlem yapması aynı sonucu doğurmuyor. Ajanlara verilen yetki arttıkça hatanın gerçek sistemlere taşınma riski de büyüyor.

KAMU SİSTEMİNE KADAR GİRDİLER

Bu riskin dikkat çeken örneklerinden biri Avustralya’da yaşandı. Bir OpenAI ajanı haziranda hükümete ait sağlık portalındaki yetkisiz bir arka kapıdan sisteme girdi. Yetkililer kişisel verilere erişildiğine ilişkin kanıt bulunmadığını açıkladı. Benzer sorunlar şirket sistemlerinde de görüldü. OpenAI’a ait otonom ajanların kapalı test ortamından çıkarak Hugging Face platformuna yöneldiği, ardından Anthropic ve Google’ın da benzer izinsiz faaliyetler tespit ettiği bildirildi. Vakalar, olası zarardan kimin sorumlu olacağı tartışmasını büyüttü.

VAKA SAYISI YÜZDE 55 ARTTI

Stanford Üniversitesi’nin 2026 AI Index raporuna göre AI Incident Database’e kaydedilen yapay zekâ kaynaklı olay sayısı 2024’te 233 iken 2025’te 362’ye çıktı. Böylece vaka sayısı yaklaşık yüzde 55 arttı. Stanford, sistemlerin yetenekleri hızla gelişirken güvenlik ve sorumlu kullanım testlerinin aynı hızda ilerlemediğine dikkat çekiyor.

Yaşanan vakalar, Trump yönetimi ile teknoloji şirketlerini aynı masaya getiren güvenlik tartışmasının da temelini oluşturdu. Yeni mutabakatla, yapay zekâ sistemlerinin yetkileri arttıkça kontrol mekanizmalarının güçlendirilmesi hedefleniyor. Ancak sistemin gönüllülük esasına dayanması, şirketlerin kendi kendini denetlemesinin yeterli olup olmayacağı tartışmasını sürdürüyor.

TÜRKİYE’NİN DESTEKLEDİĞİ RAPOR: HENÜZ O YETENEĞE SAHİP DEĞİLLER

Turing Ödüllü yapay zekâ araştırmacısı Prof. Yoshua Bengio’nun başkanlığında hazırlanan 2026 Uluslararası Yapay Zekâ Güvenliği Raporu da riskleri üç ana gruba ayırıyor: kötüye kullanım, sistemlerin hatalı veya beklenmeyen davranışları ve yaygın kullanımın oluşturabileceği sistemik etkiler. Türkiye’nin de aralarında bulunduğu 30’dan fazla ülke ve uluslararası kuruluşun desteğiyle, 100’ü aşkın uzmanın hazırladığı rapora göre mevcut sistemler henüz insan kontrolünü tamamen aşabilecek yeteneklere sahip değil. Ancak ajanların daha uzun süre bağımsız çalışabilmesi ve dış sistemlere erişiminin artması, insanlar bir hatayı fark etmeden önce gerçek dünyada işlem yapabilme riskini büyütüyor.

İŞTE ÜÇ RİSK SENARYOSU

BUGÜNKÜ RİSK: KÖTÜYE KULLANIM

 Uluslararası Yapay Zekâ Güvenliği Raporu’na göre bugün en somut risk; yapay zekânın dolandırıcılık, siber saldırı, manipülasyon ve sahte içerik üretiminde kullanılması. Sistemlerin büyük miktarda içeriği çok kısa sürede üretmesi, bu faaliyetlerin ölçeğini büyütebiliyor.

BİR SONRAKİ AŞAMA: HATA BÜYÜYEBİLİR

 Ajanlar daha fazla işlem yetkisi aldıkça, yanlış bir kararın sonuçları da büyüyebilir. Rapora göre bugünkü yapay zekâlar yanlış bilgi üretebiliyor, hatalı kod yazabiliyor ve verilen görevi beklenmeyen biçimde yerine getirebiliyor. İnsan müdahalesi azaldığında hatayı gerçekleşmeden durdurmak da zorlaşıyor.

EN UÇ SENARYO: KONTROL KAYBI

 Uzmanların tartıştığı en ileri senaryo, gelecekteki çok daha güçlü yapay zekâ sistemlerinin insan denetiminin dışına çıkması. Rapora göre bunun gerçekleşebilmesi için sistemlerin denetimden kaçabilmesi, uzun vadeli plan yapabilmesi ve kapatılmaya karşı koyabilmesi gerekiyor. Bugünkü sistemler bu seviyede değil ve uzmanlar böyle bir senaryonun gerçekleşme ihtimali konusunda görüş birliğine sahip değil. Buna rağmen rapor, olası sonuçların çok ağır olması nedeniyle bu riskin şimdiden araştırılması gerektiğini belirtiyor.