온디바이스 AI, 저전력·경량화 경쟁
기기 자체에서 AI를 구동하는 온디바이스 AI를 두고 국내외 기업들이 전력 효율화와 모델 경량화 기술 경쟁을 벌이고 있다. 삼성, 퀄컴, 애플 같은 대기업부터 국내 스타트업까지 관련 기술과 제품을 잇달아 공개했다.
무슨 일이 있었나
- KAIST 이재길 교수 연구팀이 기기 내 소형 AI와 서버 대형 AI를 연결해 서버 호출을 57% 줄이는 프레임워크 'CURE'를 9월22일 공개했다.
- 퀄컴이 구글과 협력해 제미나이 인텔리전스에 최적화되고 스냅드래곤 X 엘리트를 탑재한 노트북 카테고리 '구글북'을 9월21일 공개했다.
- 국내 스타트업 비드래프트의 온디바이스 AI 모델 '포켓-35B'가 공개 7주 만인 9월11일 허깅페이스 누적 다운로드 100만건을 돌파했다.
- 캘리포니아 공과대학 스핀오프 프리즘ML이 270억 매개변수급 LLM을 5.9GB로 압축한 온디바이스 모델을 공개했다.
- 애플이 9월14일 iOS 27 등 신규 운영체제를 공개하며 사진 구도 사후 편집, 가격 추적 등 애플 인텔리전스 기능을 확대했다.
왜 중요한가
- 온디바이스 AI는 실시간 처리에 유리하지만 기기 내 전력·연산 자원의 한계가 걸림돌로 꼽혀, 삼성디스플레이 같은 부품업체까지 저전력 기술 개발에 나섰다.
- KAIST와 프리즘ML 사례처럼 서버 의존도를 낮추고 모델 크기를 줄이는 경량화 기술이 온디바이스 AI 확산의 핵심 과제로 부상했다.
- 쿤텍 사례처럼 AI 모델이 단말기에 직접 배포되면서 정보 유출 방지 등 보안 기술의 필요성도 함께 커지고 있다.
나에게 무슨 상관인가
갤럭시 폴더블의 보케 영상 기능이나 애플 인텔리전스처럼 이미 쓰고 있는 스마트폰 기능 상당수가 온디바이스 AI 기술이며, 노트북·셋톱박스 등으로도 확대되고 있어 새 기기를 고를 때 관련 기능을 접할 가능성이 커진다. 다만 서버 호출을 줄이는 연구나 모델 압축 기술 자체는 아직 연구·제품 개발 단계여서, 당장 개인 사용자의 일상이 크게 달라지는 단계는 아니다.
다음에 볼 것
- 한국어를 지원하는 시리 AI 베타가 2026년 10월 제공될 예정이다.
- 애플의 프리즘ML 인수·협력 검토 결과가 나올지 주목된다.
- 엔코아 AI캠퍼스가 2026년 10월7일과 14일 각각 데이터 엔지니어링, 멀티에이전트 AI 오케스트레이션 캠프를 새로 개강한다.
읽은 원문
이 브리핑은 아래 14건만 근거로 썼습니다
- 삼성디스플레이, 고성능·초저전력 OLED 기술 선도블로터 · 2026-09-22
- KAIST, 지식 재사용으로 서버 호출 57% 줄여AI타임스 · 2026-09-22
- 퀄컴·구글, 제미나이 탑재 노트북 '구글북' 공개ZDNet Korea · 2026-09-21
- 노타, AI 모델 최적화로 기업 AX 효율화 지원전자신문 SW · 2026-09-21
- '애플 인수설' 프리즘ML, LLM 5.9GB로 압축 공개AI타임스 · 2026-09-19
- 루커스, AI 모델·하드웨어 함께 만드는 피지컬 AI 기업IT조선 · 2026-09-17
- 비드래프트 '포켓' 온디바이스 AI, 7주만에 100만 다운로드AI타임스 · 2026-09-16
- 갤럭시 폴더블 신제품, AI로 전문가급 보케 영상 구현ZDNet Korea · 2026-09-16
- 플레이데이터 교육생, KDT 해커톤 등서 잇단 수상ZDNet Korea · 2026-09-16
- KT, 콘텐츠 검색부터 숏폼 제작까지 미디어 AI 유럽서 공개ZDNet Korea · 2026-09-15
- 자람테크놀로지, 해외 고객사 ASIC 2차 계약 해지ZDNet Korea · 2026-09-15
- 애플, 사진 구도 편집·가격 추적 등 AI 기능 확대전자신문 IT · 2026-09-15
- 에너자이, 브로드컴과 IBC 2026서 온디바이스 AI 공개AI타임스 · 2026-09-10
- 쿤텍, 온디바이스 AI 정보 유출 방지 난독화 기술 개발AI타임스 · 2026-09-08