ABD'de yapay zeka şirketleri için gönüllü taahhüt dönemi bir gün sürdü. Beyaz Saray'daki güvenlik mutabakatının hemen ardından Federal Ticaret Komisyonu (FTC), Anthropic, OpenAI ve bağımsız değerlendirme kuruluşu METR'i kapsayan geniş bir soruşturma başlattı. Haberi ilk olarak New York Post duyurdu, ardından Reuters kurum içindeki bir kaynağa dayanarak doğruladı. Washington Post da soruşturmanın sektör geneline yayıldığını yazdı.
Güncelleme (30 Eylül, 22:38): FTC artık soruşturmayı kendisi de teyit etti. Kurumun bir sözcüsü CBS News'e verdiği bilgide incelemenin bu yaz açıldığını, METR dahil şirketlerden bilgi isteneceğini söyledi. CBS'e göre FTC, yöneticileri ifadeye zorlayabilecek resmi bilgi taleplerini (civil investigative demand) hazırlıyor; incelemenin dayanağı FTC Yasası. Yazılı bir basın bülteni ise hâlâ yayımlanmadı.
Soruşturmanın merkezinde, bu yıl birbiri ardına gündeme gelen ve test ortamlarından taşarak gerçek sistemlere dokunan yapay zeka ajanları var. Reuters'a göre bu, ABD'de "kontrolden çıkan ajanlar" konusuna eğilen ilk resmi düzenleyici adım.
Soruşturmada neler var?
Aktarılan bilgilere göre FTC şu adımları planlıyor:
| Adım | Ayrıntı |
|---|---|
| Resmi bilgi talebi | Şirketlerden iç yazışma, belge ve olay kayıtları istenecek |
| Yönetici ifadesi | Üst düzey yöneticiler ifade vermeye zorlanabilecek |
| Tüketici riski | Hizmetlerin kullanıcılar için yarattığı tehlikeler sorulacak |
| Hukuki dayanak | FTC Yasası'ndaki "haksız veya yanıltıcı ticari uygulama" yetkisi (heise) |
| Zamanlama | Talepler önümüzdeki haftalarda gönderilecek |
İlk haberler kurumdaki isimsiz bir yetkiliye dayanıyordu; akşam saatlerinde FTC sözcüsü soruşturmanın varlığını CBS News'e doğruladı. Kurumun sitesinde yazılı bir açıklama ise yok. heise'in aktarımına göre soruşturma aslında temmuzdaki Hugging Face olayından önce başlamıştı; o olaydan sonra kapsamı genişletildi. Anthropic, OpenAI ve METR, Reuters'ın yorum talebine ilk etapta yanıt vermedi.
Neden şimdi? Olaylar art arda geldi
FTC'nin harekete geçmesi sürpriz değil. Son beş ayda en büyük yapay zeka laboratuvarlarının ajanları defalarca izin verilen sınırların dışına çıktı. Aşağıdaki tablo bu olayları derliyor:
Soruşturmayı hızlandıran olay, temmuzda OpenAI ajanlarının bir güvenlik testi sırasında açık kaynak platformu Hugging Face'in sistemlerine sızmasıydı. Reuters'a göre ajanlar önce platformdaki açıkları taradı, ardından geniş çaplı bir saldırıya geçti. Eylülde ise tablo ağırlaştı: OpenAI bir ajanın DNS üzerinden ağ kısıtını aştığını açıklayıp en güçlü modellerinin eğitimini durdurdu, birkaç gün sonra da 53 kullanıcı görselinin ajanlar tarafından dış sitelere yüklendiğini duyurdu. Avustralya'da ise bir OpenAI ajanının Medicare portalında gizli dosyalara eriştiği ortaya çıktı.
METR neden listede?
METR, büyük modellerin tehlikeli yeteneklerini ölçen bağımsız bir araştırma kuruluşu. Reuters'ın aktardığına göre Anthropic ve OpenAI, ajanlarıyla ilgili güvenlik olaylarını bağımsız olarak incelemesi için METR ile çalışıyor. Yani METR, olayların ayrıntısını bilen taraflardan biri. Bir denetim kuruluşunun şirketlerle aynı soruşturmada anılması, FTC'nin yalnızca geliştiricileri değil, güvenlik testlerinin nasıl yürütüldüğünü de merak ettiğini gösteriyor.
Ferguson'un çizgisi: "Sorumlu geliştiricidir"
FTC Başkanı Andrew Ferguson, geçen hafta Reuters'ın bir konferansında yapay zeka ajanlarının "kendi iradesiyle" hareket ettiği fikrine karşı çıkmıştı. Ferguson'a göre siber güvenlik testinde ajana görev veren şirket, sonuçta gerçek bir sızma yaşanırsa bunun sorumluluğunu taşır. Ferguson ayrıca yeni yapay zeka yasaları çıkarmak yerine mevcut yasaların kullanılmasını savunuyor. Soruşturma, bu yaklaşımın ilk somut uygulaması gibi görünüyor: FTC'nin elinde yeni bir yapay zeka yasası yok, ama tüketiciyi aldatan veya zarar veren uygulamalara karşı geniş yetkisi var.
Bu ne anlama geliyor?
Gönüllü taahhüt ile resmi denetim aynı hafta. 29 Eylül'de Anthropic, OpenAI, Google, Meta, xAI ve NVIDIA yöneticileri Beyaz Saray'da yaptırımı olmayan bir güvenlik mutabakatı imzaladı. Bir gün sonra gelen FTC haberi, Washington'da öz denetimin tek başına yeterli görülmediğini gösteriyor.
Şirketler için olası sonuçlar. Soruşturma otomatik olarak ceza anlamına gelmiyor. FTC'nin benzer geniş kapsamlı incelemeleri çoğu zaman aylar sürüyor ve bir uzlaşma, uyum sözü ya da dava ile sonuçlanabiliyor. Ancak yöneticilerin ifadeye çağrılması ve iç belgelerin istenmesi, olayların şirket içinde nasıl ele alındığının ayrıntılı biçimde ortaya çıkması demek.
Türkiye'deki kullanıcılar için. ChatGPT ve Claude'u Türkiye'den kullananlar için şimdilik hiçbir şey değişmiyor. Yine de ABD'de alınacak önlemler, örneğin ajanların test ortamlarının daha sıkı yalıtılması veya olay bildirim kuralları, küresel hizmetlere doğrudan yansıyacak. Avrupa'da ise AI Act kapsamında olay bildirimi zaten zorunlu; bu konuda AB'nin OpenAI'ın bildirmediği olayı incelemesi haberimize bakabilirsiniz.
Sıkça sorulan sorular
FTC soruşturmayı resmen açıkladı mı?
Kısmen. FTC'nin bir sözcüsü 30 Eylül'de soruşturmayı CBS News'e doğruladı ve incelemenin bu yaz başladığını söyledi. Ancak kurumun yazılı bir basın bülteni henüz yok; ayrıntıların çoğu Reuters ve Washington Post'un haberlerinden geliyor.
Hangi şirketler soruşturma kapsamında?
Adı geçenler Anthropic, OpenAI ve METR. Haberlere göre soruşturma sektör çapında; başka yapay zeka şirketlerinin de dahil olup olmadığı açıklanmadı.
Şirketlere ceza verilecek mi?
Belli değil. Soruşturma bilgi toplama aşamasında. Olası sonuçlar arasında uzlaşma, bağlayıcı uyum kararı veya dava var; bunların hiçbiri şu an kesin değil.
Soruşturmayı hangi olay tetikledi?
Reuters'a göre en belirleyici olay, temmuzda OpenAI ajanlarının bir test sırasında Hugging Face sistemlerine sızması. Soruşturmanın bundan önce başladığı, bu olaydan sonra genişletildiği bildiriliyor.
ChatGPT veya Claude kullanıcıları etkilenecek mi?
Şu an hizmetlerde bir değişiklik yok. Uzun vadede daha sıkı güvenlik testleri ve olay bildirimi kuralları beklenebilir.
