AiPT 입문: 공격 단계의 AI 자동화와 판단의 한계

이 강좌를 마치면 AiPT의 뜻을 자기 말로 풀어 쓸 수 있고, ‘공격 단계의 자동화’가 무엇을 의미하는지 설명할 수 있으며, 특정 사고를 AiPT로 단정하기 전에 무엇을 확인해야 하는지 말할 수 있습니다. 정보 유출이나 시스템 침입이라는 말을 뉴스에서 접한 정도면 읽을 수 있습니다. 설명에는 가상의 ‘한빛도서관’이라는 기관을 처음부터 끝까지 하나의 예시로 씁니다. 회원 정보를 보관하는 온라인 대출 시스템을 운영한다고 가정한 가상 예시입니다.

한 문장으로 이해하기

AiPT는 ‘AI 기반 지속 위협(AI-Powered Persistent Threats)‘을 줄인 말입니다. 여기서 AI는 인공지능을 뜻합니다.

입력 자료는 AiPT를 이렇게 설명합니다. 인공지능 프로그램과 도구를 써서 공격의 여러 단계를 사람 대신 자동으로 처리하는 사이버 공격 유형이라는 것입니다. 자료가 든 단계는 보안 정찰, 취약점 악용, 내부 침투, 잠복입니다(지디넷코리아, https://zdnet.co.kr/view/?no=20261002205944).

세 낱말만 쉽게 풀어 보겠습니다. 보안 정찰은 공격할 대상을 미리 살펴보는 일입니다. 취약점은 시스템에서 방어가 허술해 파고들 수 있는 지점입니다. 잠복은 안으로 들어간 뒤 들키지 않고 머무르는 상태입니다.

왜 필요한가

이 말이 쓰이는 이유는 ‘누가 이 일을 처리하는가’가 설명의 초점이 되기 때문입니다. 같은 침입이라도 사람이 판단해 진행한 것인지, 인공지능 도구가 자동으로 진행한 것인지를 구분해 묻게 만듭니다.

다만 이 개념은 원인을 확정해 주는 도구가 아닙니다. 어떤 사고에 이 말을 붙이려면 ‘공격의 어느 단계가 자동으로 처리됐는가’를 가리킬 근거가 필요합니다. 그 근거가 없으면 AiPT는 설명이 아니라 추측이 됩니다.

어떻게 이루어지는가

아래 번호는 모든 AiPT가 반드시 거치는 정해진 순서가 아닙니다. 지디넷코리아 기사(https://zdnet.co.kr/view/?no=20261002205944)에서 문종현 지니언스시큐리티 센터장이 자율형 침투 도구 ARTEX AI를 설명하며 든 작업들을, 이해를 돕기 위해 가상의 한빛도서관에 맞춰 다시 정리한 것입니다.

1. 대상 탐색: 한빛도서관의 시스템을 찾아 살펴봅니다.
2. 취약점 발견과 검증: 허술한 지점을 찾고 실제로 통하는지 확인합니다.
3. 공격 경로 수립: 확인된 지점을 이어 들어갈 길을 정합니다.
4. 보안 도구 실행: 정한 길에 맞는 도구를 실제로 돌립니다.

앞서 본 AiPT 일반 설명에는 내부 침투와 잠복도 들어 있습니다. 그러나 특정 도구가 그 단계까지 수행했다거나 실제 사건에서 그렇게 작동했다고 확인된 것은 아닙니다.

하나의 예시로 따라가기

가상 예시인 한빛도서관에서 자동화가 작동한다고 가정하면 이렇게 보일 것입니다. 도구가 공개 페이지를 훑어 연결된 서버 목록을 만듭니다(1단계). 그 목록에서 오래된 로그인 화면을 찾아 통하는지 시험합니다(2단계). 통한 지점을 묶어 들어갈 길을 정하고(3단계), 그 길에 맞는 도구를 실행합니다(4단계).

이 가상 예시에서는 앞 단계의 결과가 다음 작업의 재료가 된다고 가정했습니다. 사람이 단계마다 지시하지 않아도 작업이 이어지는 모습이 이 개념이 가리키는 지점입니다. 다만 이런 연결 구조가 모든 경우에 성립한다고 입력 자료가 밝힌 것은 아닙니다.

반대 상황도 가정해 보겠습니다. 2단계에서 찾은 지점이 이미 보완돼 통하지 않는다면, 이 예시에서 가정한 경로는 이어지지 않습니다.

언제 쓰고 언제 쓰지 않는가

한빛도서관 사고를 두고 AiPT 여부를 판단하려면 우선 확인할 사항이 있습니다. 어느 단계가 인공지능 도구에 의해 자동으로 처리됐는지 가리킬 근거가 있는지입니다. 정보가 유출됐다는 사실만으로는 그 근거가 되지 않습니다. 결과는 같아도 과정은 여러 가지일 수 있습니다.

실제 사례에서도 이 구분이 중요합니다. 문종현 센터장은 국내 여러 곳을 겨냥한 공격을 분석한 뒤 특정 인공지능 기반 도구가 이용됐을 가능성을 제기했습니다. 그는 동시에 배후는 알 수 없고 공격 과정과 수위는 내부 정밀조사로 더 살펴봐야 한다고 밝혔습니다(지디넷코리아, https://zdnet.co.kr/view/?no=20261002205944).

한계를 세 가지로 나눠 두겠습니다. 첫째, 이용 가능성이 제기된 것과 이용이 확정된 것은 다릅니다. 둘째, 배후와 실제 공격 과정은 확인되지 않은 영역입니다. 셋째, 입력 자료는 어느 단계의 자동화가 확인되면 AiPT라고 부를 수 있다는 완결된 판정 기준을 제시하지 않습니다. 그래서 AiPT는 원인을 단정하는 이름표가 아니라, 무엇을 더 확인해야 하는지 가리키는 틀로 쓰는 것이 알맞습니다.

핵심 정리와 확인문제

AiPT는 인공지능으로 공격 단계를 자동화하는 위협을 가리키지만, 한빛도서관 같은 개별 사고에 적용하려면 실제 공격 과정이 확인돼야 합니다.

1. AiPT를 한국어로 풀어 쓰면 무엇인가? 정답: AI 기반 지속 위협. 해설: ‘AI-Powered Persistent Threats’를 옮긴 말이며, 인공지능 도구로 공격 단계를 자동 처리하는 공격 유형을 가리킵니다.

2. 입력 자료가 말하는 ‘공격 단계의 자동화’란 무엇을 뜻하는가? 정답: 인공지능 프로그램과 도구가 공격 단계의 작업을 자동으로 처리하는 것. 해설: 앞 단계의 결과가 다음 작업으로 이어지는 흐름은 한빛도서관 가상 예시에서 가정한 모습이며, 자료가 밝힌 일반 규칙은 아닙니다.

3. 정보 유출 사실만 확인된 경우 그 사고를 AiPT로 단정할 수 있는가? 정답: 없다. 해설: 유출이라는 결과만으로는 어느 단계가 인공지능으로 자동 처리됐는지 알 수 없습니다. 전문가도 도구 이용 가능성만 제기하고 배후와 공격 과정은 추가 조사가 필요하다고 밝혔습니다.

참고자료

• AiPT 입문 참고자료
• AiPT 입문 참고자료
• AiPT 입문 참고자료