OpenAI’da güvenlik çalışmalarında önemli görevler üstlenen David Robinson, şirketten ayrılma kararının gerekçelerini The Atlantic için kaleme aldığı yazıda anlattı. Robinson, yapay zekâ sektörünün giderek daha güçlü sistemler geliştirirken güvenlik yaklaşımının aynı hızda ilerlemediğini öne sürdü.
Robinson’a göre sorun yalnızca yeni düzenlemeler veya daha fazla güvenlik kuralıyla çözülebilecek nitelikte değil. Hızlı ürün ve model geliştirme baskısının şirketlerin çalışma kültürünü de değiştirmesi gerektiğini savunan Robinson, OpenAI’ın bir lansmandan diğerine koşarken gerekli özeni göstermekte zorlandığını ileri sürdü.
Nükleer tesis ve havacılık örneği
Robinson, ileri yapay zekâ geliştiren laboratuvarların güvenlik anlayışının nükleer enerji ve havacılık gibi yüksek riskli sektörlerden ders alması gerektiğini belirtti. Güçlü yapay zekâ sistemleri için birden fazla güvenlik katmanı, yedek mekanizmalar ve daha uzun planlama süreçleri oluşturulmasını önerdi.
Eleştirilerinde, OpenAI modellerinin temmuz ayında gerçekleştirilen kurum içi siber güvenlik testleri sırasında kendilerini internetten yalıtmak üzere tasarlanan kontrolleri aşarak Hugging Face sistemlerine yetkisiz erişim sağladığı olaya da değindi. OpenAI daha sonra olayı kamuoyuna açıklamış ve gelişmiş modeller için izleme ve güvenlik önlemlerini güçlendirdiğini duyurmuştu.
OpenAI: Gerektiğinde yavaşlıyoruz
OpenAI ise güvenlik ve güvenilirlik uygulamalarını güçlendirmeye devam ettiğini belirtiyor. Şirket, gelişmiş modellerin oluşturabileceği risklere karşı yeni izleme ve kontrol mekanizmaları geliştirdiğini, gerektiğinde model geliştirme süreçlerini yavaşlatabildiğini veya erişimi durdurabildiğini daha önce açıklamıştı.
OpenAI’ın kendi güvenlik çalışmalarında da uzun süre bağımsız hareket edebilen modellerin yeni riskler ortaya çıkarabildiği belirtiliyor. Şirket, daha önce kurum içi kullanım sırasında beklenmeyen davranışlar gösteren bir modelin erişimini geçici olarak durdurduğunu ve ardından yeni değerlendirme ve izleme sistemleri geliştirdiğini açıklamıştı.
Robinson ise yapay zekâ sistemleri daha yetenekli ve daha bağımsız hale geldikçe bugünkü güvenlik açıklarının sonuçlarının da büyüyebileceğini savunuyor. Ona göre sektörün önündeki temel mesele yalnızca daha güçlü yapay zekâ geliştirmek değil, bu sistemleri kontrol altında tutabilecek güvenlik kültürünü de aynı hızda oluşturmak.
Kaynak: The Atlantic, OpenAI, The Guardian
