@meanNVIDIA Open Agent Safety Platform ve OpenShell: Yapay Zeka Ajanları İçin Açık Kaynak Güvenlik Katmanı
NVIDIA, 28 Eylül'de yapay zeka ajanlarının güvenli çalıştırılması için Open Agent Safety Platform adını verdiği yeni bir açık platform duyurdu. Şirket bunu, ajanları çalıştıran yazılım ve donanım, hesaplama ve robotik sistemlerin tamamında yönetişim ve kontrol sağlayan bir açık yazılım platformu ve referans sistem tasarımı olarak tanımlıyor. Platformun merkezindeki araç OpenShell, Apache 2.0 lisansıyla açık kaynak olarak sunuluyor.
OpenShell'in görevi, ajanların çalışma zamanını sandbox adı verilen yalıtılmış test ortamlarında güvence altına almak. Operatörler bir ajan devreye alınmadan önce hangi dosyalara, ağlara, araçlara, süreçlere ve kimlik bilgilerine erişebileceğini tanımlayabiliyor. Platformun donanım ayağında ise NVIDIA'nın 'çip üzerinde veri merkezi' diye tanıttığı BlueField-4 veri işleme birimi için güvenlik güncellemeleri yer alıyor. Bu güncellemeler, ajan davranışlarının ana sistemin dışından (out-of-band) izlenmesini ve güvenlik politikalarının bu katmanda uygulanmasını mümkün kılıyor.
Duyuruya göre 100'den fazla kuruluş platformu kullanmayı taahhüt etmiş durumda; aralarında Anthropic, Arm, Microsoft, SpaceXAI, Palantir ve JPMorgan Chase var. NVIDIA CEO'su Jensen Huang platformu güvenli ajan sistemleri için bir güven katmanı kuracak açık ekosistemin başlangıcı olarak niteliyor. Above Security CEO'su Aviv Nahum ise model hizalamasının güvenlik mühendisliğinin yerini tutmadığını, sandbox ve izleme ilkelerinin otonom yazılımlarla birlikte yeniden önem kazandığını vurguluyor.
Neden şimdi? Ajanlar artık yalnızca metin üretmiyor; dosya okuyor, komut çalıştırıyor, API çağırıyor ve başka sistemlerde işlem yapıyor. Bu da klasik güvenlikteki en az yetki ilkesini yeniden gündemin merkezine taşıyor. Bir modelin doğru davranacağına güvenmek yerine, yanlış davrandığında neye dokunabileceğini baştan sınırlamak çok daha sağlam bir yaklaşım. Yapay zeka destekli siber saldırılarla ilgili kaygıların arttığı bir dönemde bu tür dış kontroller kaçınılmaz görünüyor.
Şüpheci tarafım da birkaç noktayı not etmeden geçemiyor. Bir sandbox ancak içine yazılan politika kadar iyi; yanlış tanımlanmış bir izin, en iyi yalıtımı bile işe yaramaz hale getirir. Ayrıca donanım düzeyindeki izleme BlueField-4 gerektirdiği için tam paketin belirli bir donanım ekosistemine bağlı kalıp kalmayacağı, bana göre zamanla netleşecek. Yine de OpenShell'in açık kaynak olması, ajan geliştiren küçük ekiplerin ve otomasyon ajanslarının kendi altyapılarında bu yaklaşımı bugünden deneyebilmesi anlamına geliyor.
OpenShell'in görevi, ajanların çalışma zamanını sandbox adı verilen yalıtılmış test ortamlarında güvence altına almak. Operatörler bir ajan devreye alınmadan önce hangi dosyalara, ağlara, araçlara, süreçlere ve kimlik bilgilerine erişebileceğini tanımlayabiliyor. Platformun donanım ayağında ise NVIDIA'nın 'çip üzerinde veri merkezi' diye tanıttığı BlueField-4 veri işleme birimi için güvenlik güncellemeleri yer alıyor. Bu güncellemeler, ajan davranışlarının ana sistemin dışından (out-of-band) izlenmesini ve güvenlik politikalarının bu katmanda uygulanmasını mümkün kılıyor.
Duyuruya göre 100'den fazla kuruluş platformu kullanmayı taahhüt etmiş durumda; aralarında Anthropic, Arm, Microsoft, SpaceXAI, Palantir ve JPMorgan Chase var. NVIDIA CEO'su Jensen Huang platformu güvenli ajan sistemleri için bir güven katmanı kuracak açık ekosistemin başlangıcı olarak niteliyor. Above Security CEO'su Aviv Nahum ise model hizalamasının güvenlik mühendisliğinin yerini tutmadığını, sandbox ve izleme ilkelerinin otonom yazılımlarla birlikte yeniden önem kazandığını vurguluyor.
Neden şimdi? Ajanlar artık yalnızca metin üretmiyor; dosya okuyor, komut çalıştırıyor, API çağırıyor ve başka sistemlerde işlem yapıyor. Bu da klasik güvenlikteki en az yetki ilkesini yeniden gündemin merkezine taşıyor. Bir modelin doğru davranacağına güvenmek yerine, yanlış davrandığında neye dokunabileceğini baştan sınırlamak çok daha sağlam bir yaklaşım. Yapay zeka destekli siber saldırılarla ilgili kaygıların arttığı bir dönemde bu tür dış kontroller kaçınılmaz görünüyor.
Şüpheci tarafım da birkaç noktayı not etmeden geçemiyor. Bir sandbox ancak içine yazılan politika kadar iyi; yanlış tanımlanmış bir izin, en iyi yalıtımı bile işe yaramaz hale getirir. Ayrıca donanım düzeyindeki izleme BlueField-4 gerektirdiği için tam paketin belirli bir donanım ekosistemine bağlı kalıp kalmayacağı, bana göre zamanla netleşecek. Yine de OpenShell'in açık kaynak olması, ajan geliştiren küçük ekiplerin ve otomasyon ajanslarının kendi altyapılarında bu yaklaşımı bugünden deneyebilmesi anlamına geliyor.
3 1 yorum