강좌 강좌
온디바이스 AI 모델 입문: 기기에서 도는 모델과 클라우드의 병행
온디바이스 AI 모델이라는 말은 뜻을 알면 어렵지 않습니다. 이 강좌는 그 뜻과 작동 흐름, 그리고 확인된 조건과 한계를 애플의 새 시리 사례로 살펴봅니다.
한 문장으로 이해하기
온디바이스 인공지능(AI) 모델은 스마트폰이나 노트북 같은 기기 안의 칩에서 직접 실행되는 AI 모델을 뜻합니다. ‘온디바이스(on-device)‘는 ‘기기 위에서’라는 말이고, 모델은 입력을 받아 답을 만드는 프로그램 덩어리입니다. 반대쪽 방식은 클라우드 처리입니다. 기기가 요청을 인터넷 너머 서버로 보내고, 서버가 계산한 결과를 돌려받는 구조입니다.
이 강좌를 마치면 세 가지를 할 수 있습니다. 첫째, 온디바이스 처리와 클라우드 처리의 차이를 설명하기. 둘째, 이 두 방식이 한 서비스 안에서 함께 쓰일 수 있음을 설명하기. 셋째, 참여 신청·지원 언어·제공 지역 같은 적용 조건과 답의 정확성 한계를 구분해 설명하기. 필요한 사전지식은 많지 않습니다. 스마트폰 앱을 써 본 경험과, ‘서버’가 내 기기 밖의 다른 컴퓨터를 뜻한다는 정도만 알면 충분합니다.
왜 필요한가
사람들이 이 방식에 주목하는 이유는 개인 데이터입니다. AI 비서가 도움이 되려면 메시지나 일정 같은 개인 자료를 다뤄야 합니다. 그래서 그 자료가 어디에서 계산되는지가 관심사가 됩니다.
애플은 소형 온디바이스 AI 모델을 아이폰과 맥의 칩에서 직접 실행하고, 복잡한 요청에는 ‘프라이빗 클라우드 컴퓨트’라는 서버 구조를 활용한다고 설명했습니다. 여기서 ‘소형 모델’은 애플이 설명한 자사 방식이며, 온디바이스 모델이 늘 작다는 일반 규칙은 아닙니다. 개인 데이터가 회사에 저장되지 않고 회사가 접근할 수도 없다는 것은 애플이 밝힌 내용입니다. 즉 모든 요청이 기기 안에서만 끝난다는 뜻이 아니라, 기기 처리와 서버 처리가 함께 쓰인다는 설명입니다. 참고로 서버를 사용하는 일부 기능에는 일일 사용량 제한이 있고, 애플은 앞으로 유료로 더 높은 사용량을 제공할 계획이라고 밝혔습니다.
어떻게 이루어지는가
공개된 정보로 확인할 수 있는 흐름은 다음 세 단계입니다.
- 사용자가 기기에 요청을 입력합니다. 말로 부르거나 글로 씁니다.
- 요청은 기기 안의 모델에서 처리되거나, 복잡한 경우 클라우드 구조를 거쳐 처리됩니다. 애플은 개편한 받아쓰기 기능이 온디바이스 모델에서 실행된다고 설명했고, 그 모델명을 AFM Core Advanced라고 밝혔습니다. 이름의 뜻은 공개된 설명이 없습니다. 클라우드 쪽인 프라이빗 클라우드 컴퓨트에는 구글 클라우드 인프라가 활용된다고 보도됐습니다.
- 처리 결과가 사용자에게 제공됩니다.
여기서 중요한 점은 두 방식이 배타적이지 않다는 것입니다. 새 시리는 데이터를 일부는 기기에서, 일부는 클라우드에서 처리합니다. 다만 어떤 요청이 어느 쪽으로 가는지 가르는 세부 기준은 공개된 정보가 없습니다.
하나의 예시로 따라가기
애플이 제시한 사용 사례를 따라가 봅시다. 메시지에서 가족 요리법을 찾아 그 재료를 미리 알림 앱으로 옮기는 작업입니다.
1단계에서 사용자가 시리에게 이 일을 시킵니다. 2단계에서 요청이 처리됩니다. 여기서 초보자가 가장 많이 헷갈리는 지점이 나옵니다. 애플은 이 작업이 가능하다고 제시했을 뿐, 이 작업의 각 부분이 기기에서 처리되는지 클라우드에서 처리되는지는 밝히지 않았습니다. 그러므로 ‘메시지가 기기에 있으니 당연히 기기에서만 검색한다’고 결론 내릴 수 없습니다. 3단계에서 재료 목록이 미리 알림 앱에 정리돼 나타납니다.
이 예시가 알려주는 것은 두 가지입니다. 하나는 AI 비서가 메시지의 요리법을 찾아 다른 앱의 작업으로 이어갈 수 있다는 점이고, 다른 하나는 작업만 보고 처리 위치를 단정할 수 없다는 점입니다.
언제 쓰고 언제 쓰지 않는가
먼저 흔한 오해를 풀어야 합니다. 온디바이스 모델을 포함한 서비스라고 해서 그 서비스의 모든 처리가 기기 안에서만 이루어진다는 뜻은 아닙니다. 새 시리도 일부는 클라우드를 씁니다. 또 기기에서 돌린다고 답이 정확해지지도 않습니다. 초기 개발자 빌드에서는 메모를 잘못된 위치에 저장한 사례가 보고됐습니다. 테스트에서는 오해와 환각이 지적됐습니다. 환각은 사실과 맞지 않거나 근거 없이 만들어낸 답을 말합니다. 메시지에 정보가 있어도 개인 맥락 질문에 답하지 못하거나 오래된 답을 내놓은 사례도 보고됐습니다.
적용 조건도 있습니다. 새 시리는 별도 참여 신청이 필요하고, 초기 수요에 따라 대기자 명단이 운영될 수 있다고 보도됐습니다. 언어도 조건입니다. 처음에는 영어만 지원하며 다른 언어 지원은 이후 추가될 예정입니다. 지역도 조건입니다. 새 시리와 이에 기반한 기능은 초기에는 유럽연합과 중국에서 제공되지 않습니다. 정리하면, 온디바이스 모델을 쓰는 서비스라도 곧바로 누구나 쓸 수 있는 것은 아닙니다.
핵심 정리와 확인문제
정리하면 이렇습니다. 온디바이스 AI 모델은 기기 안의 칩에서 직접 실행되는 AI 모델이고, 복잡한 요청에는 클라우드 처리가 함께 쓰입니다. 실제로 쓸 때는 참여 신청, 지원 언어, 제공 지역, 그리고 답의 정확성 문제를 함께 봐야 합니다.
확인문제 1. 온디바이스 처리와 클라우드 처리의 가장 기본적인 차이는 무엇인가요?
확인문제 2. 애플이 제시한 요리법 작업에서, 각 부분이 기기와 클라우드 중 어디에서 처리되는지 단정할 수 없는 이유는 무엇인가요?
확인문제 3. 새 시리를 쓰려는 사람이 확인해야 할 이용 조건 세 가지를 들고, 그 조건을 모두 통과해도 남는 한계가 무엇인지 함께 설명하세요.
정답과 해설 1. 계산이 일어나는 장소가 다릅니다. 온디바이스는 기기 안 칩에서, 클라우드는 기기 밖 서버에서 계산합니다. 새 시리는 두 방식을 함께 씁니다.
정답과 해설 2. 애플이 그 작업 사례를 제시했을 뿐 각 부분의 처리 위치를 밝히지 않았기 때문입니다. 요청을 어느 쪽으로 보내는지 가르는 기준도 공개되지 않았습니다.
정답과 해설 3. 이용 조건은 참여 신청, 지원 언어, 제공 지역입니다. 별도 참여 신청이 필요하고 대기자 명단이 운영될 수 있으며, 처음에는 영어만 지원하고, 초기에는 유럽연합과 중국에서 제공되지 않습니다. 이 조건을 모두 통과해도 정확성 한계는 남습니다. 초기 개발자 빌드에서 메모를 잘못된 위치에 저장한 사례가 있었고, 테스트에서 오해와 환각이 지적됐으며, 개인 맥락 질문에 답하지 못하거나 오래된 답을 내놓은 사례도 보고됐습니다. 즉 이용 조건은 쓸 수 있는지의 문제이고, 정확성은 답을 믿을 수 있는지의 문제로 구분해야 합니다.