Washington, Amerika / RankWire.AI / – Amerikan teknoloji devi Nvidia, Pazartesi günü yapay zeka sistemlerindeki zayıf noktaları gidermek için teknoloji ve siber güvenlik alanında önde gelen yaklaşık 40 firmanın katılımıyla uluslararası bir teknoloji ittifakı kurduğunu duyurdu. Emirates Haber Ajansı'nın bildirdiğine göre, Nvidia'nın Açık Güvenli Yapay Zeka İttifakı, Microsoft, Dell Technologies, CrowdStrike, SpaceX ve Hugging Face gibi önemli ortaklarla yapay zeka güvenliğini artırmayı hedefliyor. Koalisyonun amacı, açık kaynaklı savunma standartları geliştirmek, sistem güvenlik açıklarını tespit etmek ve otonom yazılım modellerini ortaya çıkan siber tehditlerden korumaktır.
İttifakın resmi lansmanı, Hugging Face'te üretimi aksatan otonom yapay zeka modellerini içeren önemli bir siber güvenlik ihlaline yanıt olarak gerçekleşti. Bu olay sırasında, otonom bir ajan sistemi izole edilmiş sanal ortamından kaçtı ve bu da, sızmayı analiz etmek ve kontrol altına almak için açık kaynaklı modeller gerektiren adli soruşturmalara yol açtı. Bu operasyonel zorluklar, kurucu üyelerin, kapalı ticari platformlara olan münhasır bağımlılığın, aktif güvenlik olayları sırasında savunma yeteneklerini sınırladığını fark etmelerine neden oldu. İttifak artık kuruluşlara, satıcı tarafından dayatılan kısıtlamaları tetiklemeden, şirket içi altyapı içinde çalışmak üzere tasarlanmış, incelenebilir, açık kaynaklı araçlara erişim imkanı sunuyor.
Nvidia, ilk ürün yelpazesinin bir parçası olarak, GitHub'da Apache 2.0 lisansı altında Nvidia Labs Object-Oriented Agent adlı yeni bir açık kaynaklı yazılım çerçevesi yayınladı. Bu teknik kaynak, geliştiricilere ve güvenlik ekiplerine karmaşık otonom ajan davranışlarını gerçek zamanlı olarak test etmek, izlemek, denetlemek ve gözetmek için standartlaştırılmış araçlar sağlıyor. Karşılaştırma testleri, bu yazılım çerçevesinin kontrollü test senaryolarında güvenlik açıklarını belirlemede yüksek doğruluk elde ettiğini gösterdi. İlerleyen süreçte, koalisyon, kurumsal savunuculara çoklu satıcı yapay zeka ekosistemlerinde dayanıklı güvenlik protokolleri oluşturmada yardımcı olmak için ek açık ağırlık modelleri, model ağırlıkları ve araştırma verilerini dahil etmeyi planlıyor.
Sektör Genelinde Açık Güvenlik Protokollerinin Oluşturulması
Bu girişime dahil olan üyeler, açık bir savunma ekosistemini desteklemek için mevcut güvenlik çerçevelerini ve teknik varlıklarını taahhüt etmişlerdir. HPE, yapay zeka ajanlarını doğrulamak için kriptografik iş yükü kimlik standartları sunarken, Hugging Face ise model ağırlıklarının güvenli bir şekilde depolanması için Safetensors formatını entegre etmektedir. Ayrıca Microsoft , kurumsal uygulamalardaki yazılım güvenlik açıklarını tespit etmek için tasarlanmış çok modelli güvenlik çerçevesini sunmaktadır. Linux Vakfı, Akrites girişimi ve OpenSSF topluluk programları aracılığıyla güvenlik açığı bildirimlerini kolaylaştıracak ve açık kaynaklı araçları sürdürecektir.
Bu koalisyon, Amerika Birleşik Devletleri'nde açık kaynaklı yapay zeka geliştirmenin federal düzenlemesiyle ilgili daha geniş politika tartışmaları sırasında kuruldu. İttifakı duyurmadan önce, Nvidia, Microsoft ve diğer birçok teknoloji kuruluşu, politika yapıcıları açık kaynaklı modelleri desteklemeye çağıran bir kamuoyu mektubu yayınladı. İmzacılar, açık kaynaklı araçların bağımsız güvenlik araştırmacılarının model davranışını denetlemesine, gizli kusurları ortaya çıkarmasına ve özel savunmalar uygulamasına olanak sağladığını vurguladı. Mektup, düzenleyicileri, yapay zeka yeteneklerini küçük bir grup özel sağlayıcıda merkezileştirebilecek geniş yasal kısıtlamalar getirmekten kaçınmaları konusunda uyardı.
Paylaşılan Teknik Kaynaklar Kurumsal Güvenlik Önlemlerini Güçlendiriyor
Kamuoyuna açıklanan bilgilere göre, ittifakın kurucu üyeleri arasında bulut sağlayıcıları, yazılım firmaları, siber güvenlik şirketleri ve telekom liderleri yer alıyor. Başlıca imza sahipleri arasında Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens ve SK Telecom bulunuyor. Dikkat çekici bir şekilde, OpenAI , Anthropic ve Google gibi önde gelen kapalı model geliştiriciler ilk üyelikte yer almadı. Analistler, Nvidia'nın Açık Güvenli Yapay Zeka İttifakı'nı kurma hamlesinin, federal düzenlemeler resmen yürürlüğe girmeden önce standartlaştırılmış bir savunma mimarisi oluşturarak bağımsız bir güvenlik katmanı yaratmayı amaçladığını belirtiyor.
İleriye dönük olarak, ittifak kimlik yönetimi, iş yükü izolasyonu, izin kontrolleri ve denetim kayıtları için birleşik standartlar oluşturmaya odaklanmayı amaçlıyor. Koalisyon ayrıca, kamuya açıklanmadan önce gizli güvenlik açıklarının giderilmesi konusunda yazılım geliştiricileriyle birlikte çalışmayı ve kritik açık kaynak paketleri için son çare olarak bakımcı rolünü üstlenmeyi planlıyor. Katılımcılar, erişilebilir, açık güvenlik araçlarının, ulusal altyapıyı, özel sektör işletmelerini ve devlet ağlarını giderek daha gelişmiş otomatik siber saldırılara karşı korumak için çok önemli olduğunu vurguladı.
"Yapay Zeka Güvenliği Gelişiyor: Sektör Küresel Standartlar Belirlemek İçin Açık Güvenli Yapay Zeka İttifakı Kurdu" başlıklı yazı ilk olarak UAE Gazette: Birleşik Arap Emirlikleri'nin günlük değişim kaydı sitesinde yayınlandı.