학습
인프라 용어
궁금한 것부터 시작해도 되고, 실무 용어를 찾아봐도 됩니다. 생활 질문에는 정의가 아니라 답을 먼저 씁니다. 모델별 수치는 여기 쓰지 않고 카탈로그에서 확인된 값만 보여줍니다.
게시 용어82
분야19
게시 용어82
고급4
분야19
인프라 4개 · 전체 보기
고급
4개
GPU 메모리인프라GPU Memory (VRAM)GPU 메모리(VRAM)는 그래픽 처리 장치에 탑재되어 모델 가중치, 활성화 값, 중간 연산 결과 등을 저장하는 고속 전용 메모리를 말한다.NPU인프라NPU (Neural Processing Unit)신경망 연산에 특화된 전용 반도체로, 행렬 곱셈과 병렬 연산을 하드웨어 수준에서 가속해 CPU나 GPU보다 낮은 전력으로 딥러닝 추론을 처리하는 프로세서를 말한다.모델 서빙인프라Model Serving학습이 끝난 머신러닝 모델을 실제 서비스 환경에 배포하여, 들어오는 요청을 받아 추론 결과를 반환할 수 있도록 운영하는 과정을 말한다.텐서 병렬화인프라Tensor Parallelism하나의 거대한 신경망 레이어(행렬 연산)를 여러 개의 조각으로 쪼개어 여러 개의 가속기(GPU)에 나누어 계산하고 결과를 다시 합치는 병렬화 기법을 말한다.