Beyaz Saray'da yapay zeka mutabakatı: Devler öz denetim sözü verdi

ABD'nin önde gelen yapay zeka şirketleri, Washington'da ilk kez ortak bir güvenlik taahhüdüne imza attı. Başkan Donald Trump'ın 29 Eylül Salı günü Beyaz Saray'da verdiği öğle yemeğinde Anthropic, OpenAI, Google, Meta, xAI ve NVIDIA'nın üst yöneticileri iki sayfalık bir belge imzaladı. Belgenin adı "The White House Accord on Superintelligence: A Joint Commitment on Frontier SI Responsibilities", yani kabaca "Süper Zeka Üzerine Beyaz Saray Mutabakatı: Öncü modellerde ortak sorumluluk taahhüdü".

Kısa özeti şu: Şirketler kendi modellerini daha sıkı izleyeceklerine ve bağımsız denetçilere kapı açacaklarına söz veriyor. Ancak bu sözü tutmazlarsa hiçbir yasal sonuçla karşılaşmayacaklar. Trump belgeyi "neredeyse bir anayasa gibi" diye tanımladı ve bağlayıcılığı sorulduğunda "ahlaken" bağlayıcı olduğunu söyledi.

Kim imzaladı, kim oradaydı?

ABC News ve Al Jazeera'nın aktardığına göre belgeyi imzalayan altı isim şunlar:

Yemekte ayrıca Temsilciler Meclisi Başkanı Mike Johnson, Amazon'un kurucusu Jeff Bezos, Palantir'den Alex Karp ve Shyam Sankar ile kabine üyeleri de vardı. Bazı yayınlar Bezos ve Karp'ı da imzacılar arasında sayıyor; ancak ana kaynakların çoğu yalnızca yukarıdaki altı ismi veriyor. OpenAI adına belgeyi CEO Sam Altman değil, Greg Brockman imzaladı.

Mutabakatta ne var? Dört katmanlı denetim

Belgenin çıkış noktası, öncü (frontier) model geliştiren her şirketin teknolojisini güvenli biçimde ve müşterilerin ile kamuoyunun güvenini kazanacak şekilde geliştirmekten kendisinin sorumlu olduğu fikri. Bunun için dört katmanlı bir yapı tarif ediliyor:

1. İç kontroller: Modellerin yetenekleri ve hizalaması (alignment) eğitim sırasında izlenecek. Özellikle siber güvenlik, biyolojik ve kimyasal tehditler gibi alanlar sayılıyor.
2. İç denetim ekibi: Her şirket, bu kontrollerin gerçekten çalıştığını doğrulayan ve sorunları gideren bir ekip görevlendirecek.
3. Bağımsız dış denetçi: Dışarıdan bir değerlendirici şirketin güvenlik süreçlerini inceleyebilecek.
4. Yönetim kurulu komitesi: Şirketin yönetim kurulundaki bağımsız bir komite, denetçi raporlarını gözden geçirecek.

Şirketler ayrıca güvenlik standartları ve iyi uygulamalar belirlemek için düzenli olarak bir araya gelmeyi taahhüt ediyor. Al Jazeera'ya göre metinde, bu kuralların ileride yasaya ya da resmi düzenlemeye dönüştürülmesinin "mantıklı olabileceği" de yazıyor.

Neyi içermiyor?

Eleştirilerin odağı, belgede olmayanlar. Protothema'nın özetine göre şirketler denetçilerini ve gözetim kurullarını kendileri seçebiliyor, denetim sonuçlarını yayımlama zorunluluğu da yok. Taahhütlerin ihlal edilmesi halinde ceza, para cezası ya da bir kamu kurumunun müdahalesi öngörülmüyor. ABC News, bu adımların şirketlerin hâlihazırda uyguladığı güvenlik önlemlerinden ne kadar farklı olduğunun da belirsiz olduğunu not ediyor.

Trump ise sektörün kendi kendini denetleyeceğini, ayrıca "10 kişilik" bir tür komitenin tüm süreci gözeteceğini söyledi. Bu komitenin kimlerden oluşacağı ve hangi yetkilere sahip olacağı açıklanmadı.

İmzalanan belgedeki küçük bir ayrıntı da haberlere konu oldu: Metinde "United States" ifadesi "Unites States" diye yanlış yazılmıştı.

Yöneticiler ne dedi?

Törenin ardından gazetecilere konuşan Anthropic CEO'su Dario Amodei, teknolojinin çok gerçek riskleri olduğunu ve bu risklerin nasıl ele alınacağının hâlâ tartışıldığını söyledi. Amodei, "If we do this right, if we work with the president and everyone here, we can win safely" (Bunu doğru yaparsak ve başkanla buradaki herkesle birlikte çalışırsak güvenli biçimde kazanabiliriz) dedi.

Meta CEO'su Mark Zuckerberg belgeyi "tarihi bir konuşma" ve kamuoyunun güvenini kazanmak için "bir başlangıç" olarak nitelendirdi. Trump ise sık tekrarladığı "yapay zekayı kim kazanırsa o kazanır" sözünü yineledi.

Bağımsız uzmanlar daha mesafeli. Al Jazeera'nın derlediği yorumlarda, Avustralyalı yapay zeka araştırmacısı Toby Walsh şirketlerin bugüne kadarki güvenlik sicilini sert biçimde eleştirip yöneticilerin kişisel sorumluluğunu istedi. Yapay zeka güvenliği araştırmacısı David Krueger ise belgeyi "düzenlemeden düzenlemek" diye tanımladı ve riski ancak çok küçük bir oranda azaltacağını öne sürdü.

"Yapay zeka" artık "süper zeka" mı?

Aynı toplantıda Trump bir kararname de imzaladı. Kararname, federal kurumların resmi belge ve açıklamalarda "artificial intelligence / AI" yerine "superintelligence / SI" ifadesini kullanmasını istiyor. Trump bu fikri ilk kez 22 Eylül'de BM Genel Kurulu'nda dile getirmişti; o sırada resmi bir düzenleme yoktu. Ayrıntılar için: Trump'tan AI Force hamlesi.

Bu ne anlama geliyor?

Mutabakat, son haftalarda hızla değişen bir tablonun parçası. Eylül başında Anthropic'ten Dario Amodei gelişimin bilinçli olarak yavaşlatılmasını ve bağımsız denetçileri önermiş; Altman ile Amodei 23 Eylül'de BM Güvenlik Konseyi'nde ortak standart çağrısı yapmıştı. Bill Gates de öz denetimin yetmeyeceğini söyleyip yasal kurallar istemişti (Bill Gates'in uyarısı).

Beyaz Saray'ın yanıtı bağlayıcı kurallar değil, gönüllü bir çerçeve oldu. Trump uluslararası bir denetim kurumuna da karşı çıktı. Trump yönetimine yakın isimlerden David Sacks, bu mutabakatın uluslararası bir anlaşmadan "çok daha iyi" olduğunu savundu.

Karşılaştırma için iki yaklaşım yan yana:

Türkiye açısından: Mutabakat yalnızca imzacı şirketlerin kendi süreçlerini ilgilendiriyor. Türkiye'deki kullanıcılar için ChatGPT, Claude, Gemini ya da Meta AI'da doğrudan bir değişiklik şimdilik açıklanmadı. Ancak bu şirketlerin denetim ve raporlama süreçleri, Türkiye'de de kullanılan modellerin nasıl yayına çıkarılacağını belirleyecek.

Sıkça sorulan sorular

Mutabakat yasal olarak bağlayıcı mı?

Hayır. Belge gönüllü bir taahhüt; ihlal halinde yasal ya da düzenleyici bir yaptırım yok. Trump "ahlaken bağlayıcı" olduğunu söyledi.

Hangi şirketler imzaladı?

Yaygın olarak aktarılan imzacılar Anthropic, OpenAI, Google, Meta, xAI ve NVIDIA. Bazı yayınlar Amazon ve Palantir'i de sayıyor; bu iki şirketin yöneticileri toplantıdaydı.

Denetimi kim yapacak?

Her şirket kendi iç ekibini ve bağımsız dış denetçisini belirleyecek. Denetçi raporlarını şirketin yönetim kurulundaki bağımsız bir komite inceleyecek. Sonuçların kamuoyuyla paylaşılması şart değil.

ABD'de "yapay zeka" kelimesi yasaklandı mı?

Hayır. Kararname yalnızca federal kurumların resmi dilini kapsıyor; şirketler ve kamuoyu için bir zorunluluk getirmiyor.

Türkiye'deki kullanıcılar için bir şey değişiyor mu?

Şimdilik hayır. Mutabakat ürünlerde doğrudan bir değişiklik öngörmüyor; şirketlerin iç güvenlik süreçleriyle ilgili.