Canonical, yapay zeka sistemleri ve otonom ajanlar için açık kaynaklı güvenlik araçları geliştirmeye yardımcı olmak amacıyla Linux Vakfı'nın Açık Güvenli Yapay Zeka İttifakı'na (Open Secure AI Alliance) katıldı.
İttifak, Temmuz 2026'da Hugging Face'te yaşanan güvenlik ihlaline yanıt olarak kuruldu. Bu ihlalde, güvenlik testinden geçen OpenAI modelleri, süper zekâdan ziyade yapılandırma hataları sayesinde Hugging Face sistemlerine erişmek için sanal ortamlarından çıkmıştı.
Ticari yapay zeka modelleri, güvenlik önlemleri nedeniyle saldırı kayıtlarını değerlendirmeye yardımcı olmayı reddetti. Bu nedenle Hugging Face mühendisleri analizlerini tamamlamak için kendi altyapılarında açık kaynaklı bir model çalıştırmak zorunda kaldılar ve bu da açık, denetlenebilir yapay zeka güvenlik araçlarına duyulan ihtiyacı vurguladı.
Ancak ittifak, yapay zeka etrafındaki güvenliği iyileştirmenin 'modellerin ötesine' geçmesi gerektiğini söylüyor.
Yapay zeka ajanları genellikle harici belleğe erişir, üçüncü taraf yazılımlara bağlanır ve kök sistem ayrıcalıklarıyla çalışabilir. Güvenlik ekipleri, kontrolden çıkan ajanları izlemek için sıkı erişim kontrolleri, izole ortamlar ve canlı izleme sistemleri oluşturmak zorunda kalacak.
Canonical, Microsoft, IBM, Red Hat, CrowdStrike ve elbette Hugging Face'in kendisi de dahil olmak üzere bulut bilişim, siber güvenlik, kurumsal ve yapay zeka araştırma laboratuvarlarından 120'den fazla üyeye katılıyor.
Projeye yapılan ilk katkılar arasında, ajan davranışını denetlemek için açık kaynaklı bir çerçeve olan NVIDIA'nın NOOA'sı ve model ağırlıklarını yüklerken rastgele kod yürütülmesini önleyen Hugging Face'in Safetensors formatı yer alıyor.
İttifakın ilk resmi önerisi, yapay zeka güvenlik olaylarını (ve kıl payı atlatılan olayları) raporlamak için gizli bir sistem kuracak olan SAFE (Shared AI Findings Exchange) projesidir. Etkilenen taraflara bildirimde bulunulabilir ve gerçek dünyadaki ajan arızalarının kaydı tutulabilir.
Canonical'ın Açık Güvenli Yapay Zeka İttifakı'na üyeliği uygun bir tercihtir. Ubuntu, bulut, sunucu ve kurumsal ortamlarda en yaygın kullanılan işletim sistemlerinden biridir; yapay zeka iş yüklerini barındırmak ve çalıştırmak için kullanılır ve kullanıcıların yapay zeka ajanlarını bağlayacağı birçok araç ve hizmette kullanılır.
İyi bir yapay zeka güvenliği, tüm yığını kapsamalıdır ve Ubuntu genellikle temelde yer alır.