Nvidia ngày 28/9 công bố Open Agent Safety Platform, nền tảng kết hợp phần mềm và thiết kế hệ thống phần cứng nhằm tăng khả năng giám sát, kiểm soát AI agent từ giai đoạn thử nghiệm đến triển khai.
Theo thông cáo của hãng, nền tảng gồm hai thành phần chính là OpenShell và Sentry. OpenShell thiết lập giới hạn hoạt động, ghi nhận hành động và thực thi các chính sách kiểm soát khi agent thực hiện nhiệm vụ. Phần mềm này có mã nguồn mở, có thể được mở rộng để hoạt động trên nền tảng điện toán của bên thứ ba.
Sentry bổ sung một lớp giám sát độc lập, chạy trên bộ xử lý dữ liệu BlueField-4 của Nvidia. Hãng cho biết hệ thống có thể cách ly và dừng agent trong vài mili giây nếu phát hiện hành vi vượt khỏi phạm vi được phép. Đây là khả năng do nhà sản xuất công bố.
Theo Reuters, Justin Boitano, lãnh đạo mảng điện toán doanh nghiệp của Nvidia, nhận định nền tảng mới có thể đã ngăn được vụ xâm nhập liên quan Hugging Face được tiết lộ trong mùa hè, nếu được sử dụng từ đầu trong quá trình đánh giá mô hình. Tuyên bố này mang tính giả định dựa trên đánh giá của Nvidia, chưa đồng nghĩa hệ thống đã được kiểm chứng độc lập là có thể ngăn mọi sự cố tương tự.
Việc ra mắt diễn ra khi các công ty AI tăng cường rà soát những hành vi ngoài dự kiến của agent. Với khả năng thực hiện chuỗi nhiệm vụ phức tạp và tương tác với nhiều hệ thống, công nghệ này đặt ra yêu cầu kiểm soát cả quyền truy cập lẫn hành động trong quá trình vận hành.
































































































