OpenAI, Savunma Bakanlığı ile yaptığı anlaşma kapsamında yapay zekâ modellerinin gizli ortamlarda kullanılmasına izin verirken, sözleşmenin aceleyle yapılması ve güvenlik önlemleri tartışmaları gündeme geldi.
Detaylar haberimizde…
OpenAI CEO’su Sam Altman’ın itirafına göre, şirketin Savunma Bakanlığı ile yaptığı anlaşma “kesinlikle aceleye getirilmiş” ve “algı açısından iyi görünmüyor.”
Anthropic ile Pentagon arasındaki görüşmeler Cuma günü sonuçsuz kalmasının ardından, Başkan Donald Trump federal ajanslara altı aylık geçiş döneminin ardından Anthropic teknolojisinin kullanımını durdurma talimatı verdi ve Savunma Bakanı Pete Hegseth, söz konusu yapay zekâ şirketini tedarik zinciri riski olarak nitelendirdi.
OpenAI’nin Kırmızı Çizgileri ve Güvenlik Önlemleri
Bunun ardından OpenAI, modellerinin gizli ortamlarda kullanılmasına yönelik kendi anlaşmasını hızla duyurdu. Anthropic, teknolojisinin tam otonom silahlarda veya kitlesel yerli gözetim faaliyetlerinde kullanılmasına ilişkin kırmızı çizgiler belirlediğini açıklarken, Altman da OpenAI’nin aynı kırmızı çizgilere sahip olduğunu belirtti. Bu durum, OpenAI’nin güvenlik önlemleri konusunda dürüst olup olmadığı ve Anthropic’in anlaşmaya ulaşamamasına karşın OpenAI’nin nasıl anlaşma sağladığı gibi soruları gündeme getirdi.
OpenAI yöneticileri anlaşmayı sosyal medyada savunurken, şirket ayrıca yaklaşımını açıklayan bir blog yazısı yayımladı.
Blog yazısında, OpenAI’nin modellerinin üç alanda kullanılamayacağını belirtildi: kitlesel yerli gözetim, otonom silah sistemleri ve “yüksek riskli otomatik kararlar.
Şirket, ulusal güvenlik uygulamalarında “güvenlik önlemlerini azaltmış veya kaldırmış ve birincil koruma olarak yalnızca kullanım politikalarına dayanmış” diğer yapay zekâ şirketlerinin aksine, OpenAI’nin anlaşmasının kırmızı çizgileri “daha kapsamlı, çok katmanlı bir yaklaşım” ile koruduğunu açıkladı.
Blog yazısında, “Güvenlik sistemimiz üzerinde tam takdir hakkına sahibiz, dağıtımı bulut üzerinden gerçekleştiriyoruz, onaylı OpenAI personeli sürece dahil ve güçlü sözleşmesel korumalar mevcut. Tüm bunlar, ABD yasalarındaki mevcut güçlü korumaların üzerine eklenmiştir.” ifadeleri yer aldı.
Şirket ayrıca, “Anthropic’in neden bu anlaşmaya ulaşamadığını bilmiyoruz ve umuyoruz ki onlar ve diğer laboratuvarlar bunu değerlendirecektir.” açıklamasını yaptı.
Blog yayımlandıktan sonra, Techdirt’ten Mike Masnick anlaşmanın “kesinlikle yerli gözetim olanağı sağladığını” iddia etti; çünkü anlaşma, özel verilerin toplanmasının 12333 Sayılı Başkanlık Kararnamesi (ve diğer bazı yasalar) ile uyumlu olacağını belirtiyor. Masnick, bu kararnamenin NSA’nin ABD dışındaki hatlardan iletişimleri dinleyerek ABD vatandaşlarına ait bilgiler de dahil olmak üzere veri toplamasını sağladığını ifade etti.
OpenAI’nin ulusal güvenlik ortaklıklarından sorumlu başkanı Katrina Mulligan, LinkedIn’de yaptığı paylaşımda, sözleşme diliyle ilgili tartışmaların “ABD vatandaşları ile kitlesel yerli gözetim ve otonom silah kullanımı arasında tek engelin Savunma Bakanlığı ile yapılan tek bir sözleşmedeki kullanım politikası hükmü olduğu varsayımına dayandığını” belirtti.
Mulligan, “Bunun işleyişi böyle değil,” ifadelerini kullanarak, “Dağıtım mimarisi, sözleşme dilinden daha önemlidir. Modellerimizi yalnızca bulut API üzerinden sınırlayarak, bunların doğrudan silah sistemlerine, sensörlere veya diğer operasyonel donanımlara entegre edilmesini engelleyebiliyoruz,” dedi.
Altman, X üzerinden anlaşma ile ilgili soruları yanıtladı; anlaşmanın aceleye getirildiğini ve OpenAI’ye yönelik önemli tepkilere yol açtığını kabul etti.
Altman, anlaşmayı kabul etme nedenini, “Durumu yatıştırmak istedik ve sunulan anlaşmanın iyi olduğunu düşündük.” sözleriyle açıkladı. Açıklamada, anlaşmanın Savunma Bakanlığı ile sektör arasındaki gerilimi azaltması durumunda şirketin bunu endüstri yararına yaptığı için olumlu değerlendirileceği, aksi halde şirketin hâlâ “aceleci ve dikkatsiz” olarak nitelendirilmeye devam edeceği belirtildi.
Derleyen: Damla Şayan
