모델 835건 · 국산 131 · 가격 671 추적 중
AI 연구

AI 용어: 지식 증류란 무엇인가

전자신문 SW·2026-10-13

요약

지식 증류는 성능이 높은 대형 AI 모델의 지식과 판단 방식을 더 작은 모델로 옮기는 기술이다. 큰 모델을 '교사', 작은 모델을 '학생'으로 두고 교사의 출력값을 학생이 따라 배우게 하는 방식으로 이뤄진다. 처음부터 데이터를 모으고 많은 연산 자원을 들이지 않고도 앞선 모델의 능력을 상당 부분 옮겨올 수 있다는 점이 특징이다. 이 개념은 2015년 제프리 힌턴 등이 논문으로 체계화했다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

펨토AI, AI 칩 압축 플랫폼 개발자 커뮤니티 공개
ZDNet Korea · 2026-10-07

풀스택 AI 실리콘 및 압축 플랫폼 기업 펨토AI가 10월 6일 베타 프로그램을 마치고 개발자 커뮤니티에 대한 공개 액세스를 발표했다. 개발자들은 SPU 칩 평가 키트, 압축 모델, 컴파일러, Sparsity Studio 등 펨토AI의 풀스택 압축 AI 플랫폼에 접근할 수 있게 됐다. …

'애플 인수설' 프리즘ML, LLM 5.9GB로 압축 공개
AI타임스 · 2026-09-19

캘리포니아 공과대학(Caltech) 스핀오프 기업 프리즘ML이 270억 매개변수급 대형언어모델(LLM)을 5.9기가바이트(GB) 크기로 압축한 온디바이스 AI 모델을 공개했다. 해당 모델은 일반 PC와 노트북, 고성능 스마트폰에서도 구동 가능하다고 회사 측은 밝혔다. 프리즘ML은 앞서 …

MIT, 학제간 AI교육 위한 교원 워크숍 파일럿 시행
MIT News (AI) · 2026-09-09

MIT 슈워츠먼 컴퓨팅대학이 여러 대학 교원을 대상으로 'AI 교육자 파일럿' 워크숍을 열고 AI·머신러닝 교육법 확산에 나섰다. 이번 워크숍은 MIT의 '머신러닝을 활용한 모델링' 강좌를 바탕으로, 7월 앨런대, 뱁슨칼리지, 브랜다이스대, 마셜대, 매사추세츠대 로웰캠퍼스, 노스텍사스대…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
지식 증류
지식 증류는 크고 성능이 뛰어난 교사 모델의 지식을 작고 가벼운 학생 모델에 전달하여, 적은 비용으로 비슷한 성능을 내도록 학습시키는 모델 압축 기법을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

전자신문 SW 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →