Birleşmiş Milletler Güvenlik Konseyi, 23 Eylül Çarşamba günü, tarihinde ilk kez yalnızca gelişmiş yapay zekanın güvenlik risklerini konu alan bir oturum düzenledi. Konuşmacılar arasında OpenAI CEO'su Sam Altman ile Anthropic CEO'su Dario Amodei de vardı. İki rakip şirketin patronu aynı noktada buluştu: Yapay zeka için uluslararası standartlar şart. Masadaki ABD temsilcisi ise bu fikre açıkça karşı çıktı. Oturum New York'ta öğleden sonra, Türkiye saatiyle çarşamba akşamı yapıldı.
Eylül ayında konseyin dönem başkanlığını yürüten Fransa, toplantıyı BM Genel Kurulu'nun üst düzey haftasına denk getirdi. Oturumu Fransa Dışişleri Bakanı Jean-Noël Barrot yönetti. Security Council Report'a göre konsey daha önce yapay zekayı altı toplantıda ele almıştı; ancak bunlar daha çok jeopolitik başlıklara odaklanıyordu. Bu kez gündem net: kötüye kullanım ve sistemlerin insan denetiminden çıkma ihtimali.
Amodei ne önerdi?
Görüntülü bağlantıyla katılan Amodei, yapay zekayı bugün dünyanın karşı karşıya olduğu en önemli küresel güvenlik meselesi olarak tanımladı. Kötü yönetilirse bu teknolojinin insanlığın tamamı için risk oluşturabileceğini söyledi. Büyük ve kapsamlı bir anlaşma yerine adım adım ilerlenmesini önerdi:
- Dar kapsamlı anlaşmalar: İlk iş olarak yapay zekanın biyolojik silah yapımında kullanılmasının dünya genelinde yasaklanması.
- Doğrulama sistemleri: Ülkelerin birbirinin taahhütlerine uyup uymadığını denetleyebileceği mekanizmalar.
- Ortak test standartları: Modellerin aynı kurallarla sınanması ve güvenlik olaylarının bildirileceği bir sistem.
France 24'ün aktardığına göre Amodei, Anthropic'in her yeni modelin gerçekten güvenli olduğundan emin olmak için "gerektiği kadar yavaşlayacağını" da taahhüt etti.
Altman ne dedi?
Altman salonda, yüz yüze konuştu. İnsanlığın geleceğin kontrolünü yapay zekaya kaptırabileceği uyarısında bulundu ve bu teknolojinin gücünün birkaç şirkette ya da ülkede toplanmak yerine geniş bir kesime dağıtılması gerektiğini savundu. Sektörün, beklenen fayda büyük diye aşırı teknik riski göze almaması gerektiğini de ekledi. Ne Altman ne de Amodei, Uluslararası Atom Enerjisi Ajansı (IAEA) benzeri bir denetim kurumu için somut bir model sundu.
Oturumda ayrıca BM'nin yeni kurulan Bağımsız Uluslararası Yapay Zeka Bilim Paneli'nin eş başkanı Yoshua Bengio ile Hugging Face CEO'su Clément Delangue söz aldı. Delangue'ın bağlantısı zaman zaman koptu. Bengio, bu tehlikelerin sınır tanımadığını ve hiçbir ülkenin onları tek başına durduramayacağını vurguladı.
Ülkeler nasıl tepki verdi?
- ABD: Beyaz Saray Bilim ve Teknoloji Politikası Ofisi'nden Michael Kratsios, yapay zekayı yeni küresel yönetişim yapılarıyla sınırlamaya da geliştirmeyi durdurmaya da karşı olduklarını söyledi. Başkan Trump bir gün önce Genel Kurul'da uluslararası yapay zeka denetimini "globalist" bir plan diye nitelendirmişti.
- Çin: BM Büyükelçisi Fu Cong açık kaynak modelleri savundu, büyük güçlerin "dijital hegemonyası" konusunda uyardı.
- Birleşik Krallık: 2027'deki G20 dönem başkanlığında yapay zeka kontrol standartlarını öncelik yapacağını açıkladı.
- Fransa: Barrot bugünkü durumu atom çağının başlangıcına benzetti ve BM çatısı altında ortak adım çağrısı yaptı.
Toplantı bir bilgilendirme oturumuydu; herhangi bir karar tasarısı oylanmadı.
Bu ne anlama geliyor?
Kısa vadede ChatGPT ya da Claude kullanan biri için hiçbir şey değişmiyor. Ama tablo net: Yapay zekayı geliştiren şirketlerin önde gelenleri kurallar isterken, bu şirketlerin çoğunun merkezinin bulunduğu ABD bağlayıcı küresel kurallara kapıyı kapatıyor. Fortune'un haberine göre 20'den fazla, çoğu Avrupalı ülkenin desteklediği bağlayıcı güvenlik önerisine ABD katılmadı.
Avrupa'da ise bağlayıcı bir çerçeve zaten var: AB Yapay Zeka Yasası (AI Act), genel amaçlı büyük modellerin sağlayıcılarına Ağustos 2025'ten bu yana belge ve şeffaflık yükümlülükleri getiriyor; en güçlü modeller için risk testleri ve ciddi olay bildirimi de isteniyor. Amodei'nin önerdiği ortak testler ve olay bildirimi bu yaklaşıma oldukça yakın. Konuyla ilgili daha önce AB'nin OpenAI'dan bildirilmeyen bir olay için açıklama istemesini yazmıştık.
Türkiye açısından
Türkiye'de yapay zekaya özel bir yasa henüz yürürlükte değil. Ancak AB pazarına yapay zeka ürünü sunan Türk şirketleri AI Act'e uymak zorunda. Küresel standartlar konusunda ABD ile Avrupa arasındaki ayrışma sürerse, iki pazara birden hizmet veren şirketler için farklı kurallara uyma yükü de artacak.
Arka plan: Neden şimdi?
Oturum, büyük laboratuvarların kendi yapay zeka ajanlarıyla ilgili olayları açıkladığı bir döneme denk geldi. Security Council Report, OpenAI, Anthropic, Google, Meta ve Moonshot AI'da ajanların test ortamlarının (sandbox) sınırlarını aştığı vakalara dikkat çekiyor. BM Genel Kurulu da kısa süre önce Bilim Paneli'ni ve "Yapay Zeka Yönetişimi Küresel Diyaloğu"nu kurdu; ancak iki yapının da yaptırım yetkisi yok. ABD yönetiminin yaklaşımını daha önce Trump'ın yapay zeka politikası haberimizde anlatmıştık.
Sık sorulan sorular
BM Güvenlik Konseyi yapay zeka için kural koydu mu?
Hayır. Oturum bir bilgilendirme toplantısıydı ve karar alınmadı. Bağlayıcı bir karar için beş daimi üyenin, yani ABD'nin de veto kullanmaması gerekir.
Amodei ve Altman oturuma nasıl katıldı?
Altman New York'taki salonda konuştu, Amodei ise görüntülü bağlantıyla katıldı.
BM Yapay Zeka Bilim Paneli nedir?
BM Genel Kurulu'nun kurduğu bağımsız bir uzmanlar kurulu. Görevi, yapay zekanın fırsat ve riskleri hakkında hükümetlere bilimsel bir ortak zemin sunmak. Eş başkanlarından biri Yoshua Bengio.
Bu kararlar Türkiye'deki kullanıcıları etkiler mi?
Şimdilik hayır. Oturumdan bağlayıcı bir düzenleme çıkmadı. Türk kullanıcılar ve şirketler için pratikte daha belirleyici olan, AB'nin AI Act kuralları.
Kapak: BM Güvenlik Konseyi salonu, fotoğraf: Jdforrester, CC BY 4.0 (Wikimedia Commons).
