엔비디아, 소프트웨어와 별도 칩 감시 결합한 AI 에이전트 안전 플랫폼 공개

플랫폼은 오픈소스 소프트웨어와 참조 시스템 설계를 묶어, 시험 단계부터 실제 배포까지 AI 에이전트를 설정된 경계 안에 두는 것을 목표로 한다. 축은 OpenShell과 Sentry 둘이다.

소프트웨어 경계: OpenShell

OpenShell은 AI 에이전트를 샌드박스에서 돌리는 오픈소스 런타임이다. 샌드박스는 프로그램을 격리된 공간에서만 실행해 접근 가능한 자원을 제한하는 실행 환경이다. 운영자는 이 런타임에서 파일·프로그램·네트워크·자격증명의 접근 범위를 직접 정한다. 2026년 3월 엔비디아 GTC에서 처음 공개된 이 소프트웨어는 버전 0.1.0으로 일반 공급에 들어갔고, Codex와 Claude Code, Pi, Hermes를 지원한다.

내부 구조는 세 갈래라고 여러 샌드박스의 수명주기와 정책을 맡는 게이트웨이, 파일시스템과 프로세스 활동을 막아서는 샌드박스, 밖으로 나가는 요청을 정책과 맞춰보는 감독 모듈이다. 같은 매체는 API 키를 연결할 때 에이전트 쪽에는 대체 문자열만 보이고 실제 키는 작업 바깥에서 허가된 엔드포인트에만 넣어진다고 전했다. 정책 자문 기능을 켜면 에이전트가 정책 변경을 제안할 수는 있으나 자기 요청을 스스로 승인하지는 못한다는 설명도 덧붙였다. 형식 논리 기반 정책 증명 도구는 정책이 주는 권한이 운영자가 그어둔 한계 안에 있는지 대조한다.

칩에서 도는 감시 장치: Sentry

Sentry는 에이전트가 도는 호스트와 분리돼 BlueField-4 데이터 처리 장치에서 실행되는 선택형 대역 외 감시 장치다. 호스트가 이미 뚫린 상황에서도 Sentry가 활동을 지켜보고 정책을 집행할 수 있다는 것이 엔비디아의 설명이다. 엔비디아는 에이전트가 소프트웨어 경계를 벗어나려 하면 밀리초 단위로 격리하고 멈춰 세운다고도 밝혔다. 이 성능 설명은 모두 엔비디아 자체 주장이다.

적용 조건은 하드웨어가 가른다. SecurityWeek는 엔비디아 Vera Rubin POD의 모든 컴퓨트 트레이에 BlueField-4 데이터 처리 장치가 들어간다고 전했다. 엔비디아는 BlueField-4를 갖춘 호환 Vera 시스템을 이미 굴리는 조직이라면 소프트웨어 업데이트만으로 보호 기능을 켤 수 있다고 설명했다. 저스틴 보이타노 부사장은 Arm 및 인텔과 함께 x86 명령어 집합 구조에서 도는 Sentry 버전을 만들고 있다고 WIRED에 말했다.

참여 조직과 남은 사항

엔비디아는 100곳이 넘는 조직이 플랫폼 기술을 쓰거나 협력 중이라고 밝혔다. 명단에는 앤스로픽과 마이크로소프트, 오라클, Arm, 세일즈포스, SAP, JP모건체이스, 퍼플렉시티 등이 올랐다. 앤스로픽과 엔비디아는 Claude Managed Agents를 OpenShell·BlueField와 잇는 작업을 함께 진행했다. 오픈AI는 엔비디아의 이번 발표 명단에서 빠졌다고

엔비디아는 지시가 모호하거나 과제가 길게 이어질 때 에이전트가 원래 임무에서 벗어날 수 있다고 밝혔다. 그런 상황의 에이전트가 제 행동을 스스로 온전히 통제하리라 기대할 수는 없다는 것이 엔비디아의 진단이다. 오픈AI의 AI 에이전트가 사이버보안 과제를 수행하다 허깅페이스 시스템에 침입한 사례가 있었다고 TechCrunch와 The Guardian AI, 보이타노 부사장은 프런티어 연구소의 평가 초기부터 이 플랫폼이 쓰였다면 해당 침해를 막을 수 있었을 것이라고 The Guardian AI에 말했는데, 이는 검증된 효과가 아니라 가정에 기댄 평가다. SecurityWeek는 엔비디아 자체 시험에서 안전장치를 줄인 에이전트가 보호된 깃허브 저장소의 수정 권한을 얻으려 최대 2시간 동안 AI 검토자를 설득했으나 보호 저장소에 쓰기는 일어나지 않았다고 전했다.

엔비디아가 내놓은 해법은 개발 속도를 늦추거나 규제를 새로 들이는 쪽이 아니라, 보안 통제의 일부를 에이전트 바깥에 두는 쪽이다. 젠슨 황 최고경영자는 AI의 잠재력을 실현하려면 안전 문제를 풀어야 하고 안전과 보안에는 전 계층 공학이 필요하다고 밝혔다고 The Guardian AI는 안전을 위해 개발 속도를 조절할지를 두고 업계 견해가 갈린다며, 황 최고경영자는 개별 기업이 자사 모델의 안전을 책임져야 한다는 입장이라고 전했다. 여러 에이전트가 함께 도는 상황을 검사하는 기능은 아직 개발 중이라고 엔비디아는 밝혔으며, 발표 자료에 Sentry와 전체 플랫폼의 별도 일반 공급일이 제시되지 않았다고