준비성 프레임워크 입문: 안전 관련 능력을 평가하고 그에 맞춰 안전장치를 강화하는 체계

한 문장으로 이해하기

준비성 프레임워크(Preparedness Framework)는 AI 모델이 안전과 관련된 영역에서 어느 정도 능력을 갖췄는지 평가하고, 그 능력이 발전할수록 점진적으로 더 강한 안전장치를 적용하는 체계입니다. OpenAI는 이 체계로 자사 모델 GPT-6 Astra를 평가했습니다.

이 강좌를 마치면 세 가지를 할 수 있습니다. 첫째, 준비성 프레임워크의 뜻을 한 문장으로 말할 수 있습니다. 둘째, 능력 평가에서 안전장치 적용까지의 흐름을 단계로 설명할 수 있습니다. 셋째, 모델 수준 안전장치가 어떤 다른 통제와 함께 작동하는지 말할 수 있습니다. 사전지식은 거의 필요 없습니다. ‘AI 모델’이 글이나 코드를 만들어 주는 프로그램이라는 점, ‘안전장치’가 위험한 사용을 막기 위한 장치라는 점만 알면 됩니다.

왜 필요한가

모델마다 할 수 있는 일의 범위가 다릅니다. 출처에 따르면 GPT-6 Astra는 복잡한 업무에서 상충하는 입력과 의존 관계를 검토하고, 소프트웨어와 파일을 다루며, 컴퓨터와 브라우저를 사용할 수 있습니다.

준비성 프레임워크는 여기에 기준을 제공합니다. 능력을 짐작하지 않고 안전 관련 영역에서 평가한 뒤, 그 평가 결과에 맞는 안전장치를 적용하는 방식입니다. 핵심은 하나입니다. 안전 관련 능력을 평가하고, 능력 수준이 높아질수록 안전장치를 강화한다는 것입니다.

어떻게 이루어지는가

출처로 확인되는 범위에서 흐름을 단계로 정리하면 다음과 같습니다. 출처가 밝히지 않은 세부 절차는 여기에 넣지 않았습니다.

1. 안전 관련 영역에서 모델 능력을 평가합니다. 사이버보안 능력이 그런 영역 중 하나입니다.
2. 평가 결과에 따라 능력 수준을 분류합니다. ‘Critical’은 출처에 등장하는 분류 이름 중 하나입니다.
3. 능력 수준이 높아질수록 더 강한 안전장치를 점진적으로 적용합니다.
4. Critical 수준에서는 자동 안전장치가 오용을 실시간으로 감시하고, 정해진 경계를 넘는 활동을 일시 정지하거나 중단할 수 있습니다.

출처에 따르면 GPT-6 Astra는 사이버보안 능력에서 Critical 분류에 도달한 첫 OpenAI 모델입니다. 그리고 이 모델이 아마존의 AI 모델 이용 서비스인 Amazon Bedrock에서 동작할 때, 해당 안전장치는 Amazon Bedrock 서비스 경계 안에서 작동합니다.

하나의 예시로 따라가기

앞의 네 단계를 사이버보안 능력에 대입해 따라가 보겠습니다. 단계별 흐름을 이해하기 위해 구성한 가상 예시이며, 각 단계가 실제로 어떤 순서와 방법으로 진행됐는지는 출처에 나와 있지 않습니다.

1단계, 모델이 사이버보안 능력을 어느 정도 갖췄는지 평가합니다. 2단계, 평가 결과를 바탕으로 능력 수준을 분류합니다. 3단계, 분류된 수준에 맞는 안전장치를 적용합니다. 4단계, 수준이 Critical이면 자동 안전장치가 오용을 실시간으로 감시하고 경계를 넘는 활동을 일시 정지하거나 중단합니다.

이 흐름에 실제 사실을 겹쳐 보면 이렇게 읽힙니다. GPT-6 Astra는 사이버보안 능력에서 Critical 분류에 도달한 첫 OpenAI 모델이고, Critical 수준에서는 위와 같은 자동 안전장치가 작동합니다. 즉 ‘능력이 높다’는 분류는 그 자체로 결론이 아니라, 더 강한 안전장치가 함께 적용되는 수준을 가리키는 표시입니다.

언제 쓰고 언제 쓰지 않는가

준비성 프레임워크는 모델의 안전 관련 능력을 평가하고, 능력이 발전할수록 더 강한 안전장치를 적용하는 체계입니다. ‘이 모델은 안전 관련 영역에서 어느 정도 능력을 갖췄는가’라는 질문에 답하는 도구입니다.

반대로 이 체계 하나만 보고 판단하면 놓치는 부분이 있습니다. 출처는 모델 수준 안전장치가 Amazon Bedrock의 보안·거버넌스 통제, 즉 누가 무엇을 쓸 수 있는지 정하고 사용 기록을 남기는 관리 장치와 ‘함께’ 작동한다고 설명합니다. Bedrock에서는 접근이 AWS IAM(AWS Identity and Access Management, 누가 무엇에 접근할 수 있는지를 정책으로 관리하는 AWS 서비스) 정책으로 관리됩니다. 모델 호출은 AWS CloudTrail(모델 호출이 기록되는 AWS 서비스)에 기록되고, 추론 데이터, 곧 모델에 넣은 입력과 모델이 내놓은 결과는 전송 중과 저장 시에 암호화됩니다.

여기서 나오는 흔한 오해가 있습니다. ‘모델이 준비성 프레임워크로 평가받았으니 안전 문제는 모델 쪽에서 모두 끝난다’는 생각입니다. 출처의 설명은 그렇지 않습니다. Amazon Bedrock에서는 모델 수준 안전장치와 함께 IAM 정책에 따른 접근 관리, CloudTrail의 호출 기록, 추론 데이터 암호화가 같이 제공됩니다.

핵심 정리와 확인문제

준비성 프레임워크는 안전 관련 영역에서 모델 능력을 평가하고, 능력 수준이 높아질수록 더 강한 안전장치를 적용하는 체계입니다. GPT-6 Astra는 이 체계로 평가받아 사이버보안 능력에서 Critical 분류에 도달한 첫 OpenAI 모델입니다. Critical 수준에서는 자동 안전장치가 오용을 실시간으로 감시하고 경계를 넘는 활동을 일시 정지하거나 중단할 수 있습니다. 그리고 이 안전장치는 Amazon Bedrock의 보안·거버넌스 통제와 함께 작동합니다.

1. 준비성 프레임워크에서 모델의 능력 수준이 높아질수록 무엇이 달라집니까?
2. GPT-6 Astra가 Critical 분류에 도달한 안전 관련 영역은 무엇입니까?
3. Amazon Bedrock에서 모델 수준 안전장치는 무엇과 함께 작동합니까?

1번 정답: 더 강한 안전장치가 점진적으로 적용됩니다. 해설: 이 체계는 능력이 발전할수록 안전장치를 단계적으로 강화합니다. Critical 수준에서는 자동 안전장치가 오용을 실시간으로 감시하고 경계를 넘는 활동을 일시 정지하거나 중단할 수 있습니다.

2번 정답: 사이버보안 능력입니다. 해설: 출처는 GPT-6 Astra가 사이버보안 능력에서 Critical 분류에 도달한 첫 OpenAI 모델이라고 설명합니다.

3번 정답: Amazon Bedrock의 보안·거버넌스 통제와 함께 작동합니다. 해설: Bedrock에서는 AWS IAM 정책에 따른 접근 관리, AWS CloudTrail에 남는 모델 호출 기록, 추론 데이터의 전송 중·저장 시 암호화가 함께 제공됩니다.

참고자료

• 준비성 프레임워크 입문 참고자료