GPT-6 Astra, Amazon Bedrock 일반 제공…입력 최대 100만 토큰

AWS는 GPT-6 Astra를 Amazon Bedrock API로 직접 호출할 수 있고, ChatGPT Work와 Codex가 Bedrock의 모델을 사용하도록 설정할 수도 있다고 밝혔다. OpenAI는 이 모델을 ChatGPT Work와 Codex, API에서 이용할 수 있다고 설명했다.

처리 용량과 가격

입력 컨텍스트 윈도는 최대 100만 토큰이다. 컨텍스트 윈도는 모델이 한 번에 읽어 처리할 수 있는 입력 범위를 뜻한다. AWS는 이 범위에서 수백 쪽 분량의 계약서를 검토할 수 있다고 설명했다. OpenAI가 제시한 시작 가격은 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러다.

모델은 암묵적·명시적 프롬프트 캐싱을 지원한다. 프롬프트 캐싱은 같은 문맥을 후속 요청에서 재사용하는 방식이다. 명시적 방식에서는 캐시에 포함할 문맥을 통제하는 중단점을 설정할 수 있다. AWS는 문맥 재사용이 반복 처리와 비용, 지연을 줄이는 데 도움이 된다고 설명했다.

AWS와 OpenAI는 API가 없는 애플리케이션에서도 소프트웨어 인터페이스를 이용해 작업을 수행할 수 있다고 설명했다. 두 회사는 기업의 문체와 템플릿, 디자인 표준을 따르는 능력도 개선됐다고 밝혔다.

안전 등급과 접근 통제

OpenAI는 자체 준비성 프레임워크 평가에서 GPT-6 Astra가 사이버보안 역량의 Critical 등급에 도달한 첫 자사 모델이라고 밝혔다. 준비성 프레임워크는 OpenAI가 모델의 위험 수준을 등급으로 나눠 판정하는 자체 평가 체계다. Critical은 모델 전체의 위험 등급이 아니라 사이버보안 역량 분류다. AWS는 이 등급에 적용되는 자동 안전장치가 오용을 실시간 감시하고, 정해진 범위를 넘는 활동을 일시 중지하거나 중단할 수 있다고 설명했다.

AWS는 Amazon Bedrock에 칩 단계의 제로 오퍼레이터 액세스를 적용했다고 밝혔다. 제로 오퍼레이터 액세스는 AWS 운영자가 추론 중 프롬프트와 응답에 접근하지 못하게 하는 통제 방식이다. 데이터는 전송과 저장 과정에서 암호화되며, 고객의 추론 데이터는 모델 학습에 사용되지 않는다는 것이 AWS의 설명이다.

AWS는 접근 권한을 IAM 정책으로 통제하고 모델 호출을 CloudTrail에 기록하며, PrivateLink를 이용한 VPC 엔드포인트 경유와 조직 단위 데이터 경계 정책 설정을 지원한다고 밝혔다. OpenAI는 기업 관리자가 승인된 웹사이트와 데스크톱 애플리케이션으로 접근을 제한하고 업로드·다운로드와 브라우징 기록을 관리할 수 있다고 설명했다. ChatGPT Work와 Codex에는 중대한 작업 전 승인을 요구하는 확인 정책과, 잠재적으로 안전하지 않거나 권한이 없는 도구 호출을 자동 검토하는 기능이 포함된다.

성능 주장과 확인할 점

OpenAI는 자체 컴퓨터 사용 안전성 평가에서 의도하지 않은 결과 발생 빈도가 GPT-5.6 Sol보다 89%, Claude Fable 5.1보다 74.7% 낮았다고 밝혔다. 이는 OpenAI 자체 평가에 근거한 수치다. OpenAI는 모델이 더 적은 토큰과 재시도로 작업을 마치도록 학습됐다고 설명했다.

OpenAI는 엔지니어링팀이 이 모델로 테스트 환경의 Codex 세션을 지연시킨 메모리 할당 병목을 찾아 할당자를 교체했다고 밝혔다. 그 결과 최대 메모리 사용량은 약 30% 늘고, 턴 지연은 25분의 1 수준으로 낮아졌다는 설명이다. 기업용 플러그인도 함께 도입된다. 다만 AWS는 대상 제품을 ChatGPT Work로, OpenAI는 ChatGPT Desktop으로 각각 밝혀 적용 범위가 일치하지 않는다.