انویدیا از یک پلتفرم امنیتی جدید برای عوامل هوش مصنوعی رونمایی کرده است که به منظور جلوگیری از خارج شدن آنها از کنترل یا انجام اقدامات ناخواسته طراحی شده است.
این پلتفرم شامل سیستم “OpenShell” است که اقدامات عوامل هوش مصنوعی را محدود می کند و لایه امنیتی “Sentry” که به طور مداوم بر عملیات آنها نظارت می کند و در صورت تشخیص رفتار مشکوک می تواند مداخله کند.
به گفته نمایندگان انویدیا، سیستم جدید می توانست از نقض اخیر سیستم های Hugging Face استارتاپ هوش مصنوعی توسط عوامل هوش مصنوعی OpenAI جلوگیری کند.
این شرکت گزارش می دهد که در زمان راه اندازی، این پلتفرم قبلاً توسط بیش از 100 شرکت از جمله مایکروسافت و Perplexity استفاده شده است.
