구글 딥마인드·싱가포르 정부기술청, 기기에서 사기 대화 가려내는 AI 모델 함께 개발

구글의 경량 모델 젬마를 현지 사기 대화로 추가 학습시킨 결과라고 구글 딥마인드는 밝혔다. 이 기사에 담긴 사실은 모두 구글 딥마인드의 설명에 따른 것이다. 학습 범위에는 공공기관·은행·현지 인물 사칭과 지역에서 유행하는 수법이 들어갔다. 범용 모델은 현지화된 속임수 기법을 다루는 데 어려움을 겪는다는 것이 구글 딥마인드의 설명이다. 두 기관의 작업은 싱가포르 정부와의 국가 AI 파트너십의 일부였고, 싱가포르 국제사이버주간(SICW 2026)에서 공개됐다.

대화를 기기 밖으로 내보내지 않는다

원문이 비교한 서버 기반 메시지 검사 방식과 달리, 이 모델은 대화 데이터를 기기에서 직접 처리할 수 있다고 구글 딥마인드는 설명했다. 작동 단계는 둘로 나뉜다. 수신 메시지에서 잠재적 위협을 걸러내는 일은 경량 분류기가 맡는다. 그다음 추가 학습된 젬마가 더 넓은 대화 범위를 들여다보며 위협을 확인하거나 오탐을 걸러낸다. 스마트폰에서 복잡한 사기 분류 모델을 돌릴 때는 배터리 효율이 핵심 고려 사항이라는 점도 구글 딥마인드는 함께 밝혔다.

피해액 40억 싱가포르달러, 수법은 대화형으로

싱가포르에서 신고된 범죄의 절반을 넘는 것이 투자 사기, 허위 구인, 공직자 사칭 등을 포함한 사기다. 2019년 이후 쌓인 피해액은 40억 싱가포르달러를 넘어섰다. 수법의 무게는 단순 피싱에서 설득력 있는 대화로 피해자를 조종한 뒤 돈을 요구하는 복잡한 방식으로 옮겨갔다. 전체 피해액의 최대 80%가 이런 사기에서 나온다.

학습 데이터와 접근 권한

추가 학습이 이뤄진 곳은 싱가포르 정부기술청이 관리·유지하는 GCP 환경이며, 학습 데이터는 격리된 상태로 유지됐다. 학습에는 사적 정보와 개인식별정보를 뺀 뒤 사기 신고 및 정보 피드에서 만든 익명화 데이터셋을 썼다. 다양한 사기 유형과 변화하는 사칭 수법을 다루기 위해 모델은 합성 대화와 현지 코퍼스를 대상으로 시험됐다. 애플리케이션 내 배포는 싱가포르 정부와 협력해 단계적으로 진행되며, 배포된 모델이 기기 안 대화에 접근하는 것은 해당 애플리케이션 이용약관에 따라 이용자가 동의한 경우로 한정된다. 구글 딥마인드는 모델이 전적으로 기기에서 작동하므로 해당 배포를 통해 싱가포르 정부나 구글이 이용자 대화에 접근할 수 없다고 밝혔다. 이 작업이 이용자 보호와 암호화된 메시징 환경의 균형을 다루는 플랫폼용 모델을 제시한다는 설명도 덧붙였다.