모델 803건 · 국산 131 · 가격 645 추적 중
AI 인프라·반도체

CTO들 "AI 경쟁력, 모델 아닌 추론 최적화가 좌우"

ZDNet Korea·2026-09-29전망

요약

국내 주요 기업 CTO들이 9월 29일 서울 코엑스에서 열린 래블업 기술 컨퍼런스에서 AI 산업의 경쟁 축이 모델 성능에서 추론 비용과 인프라 효율성으로 이동하고 있다고 진단했다. 이진원 하이퍼엑셀 CTO는 AI 시장 무게중심이 학습에서 추론으로 옮겨가며 비용 절감이 핵심 과제가 될 것이라고 밝혔다. 이활석 업스테이지 CTO는 엔비디아·AMD·퓨리오사AI 등 서로 다른 반도체를 쓰는 상황에서 워크로드와 고객 특성까지 반영한 최적화가 필요하다고 말했다. 김태호 노타AI CTO와 김준기 래블업 CTO는 AI 생태계 다변화로 모델과 하드웨어를 잇는 최적화 기술, 오케스트레이션 역량이 중요해질 것이라고 전망했다.

큐레이터 노트

원문에 없는 맥락입니다

여러 기업 CTO가 같은 컨퍼런스에서 공통적으로 언급한 진단으로, 특정 반도체나 모델 하나의 성능보다 모델·소프트웨어·하드웨어를 아우르는 통합 최적화 역량이 논의의 중심으로 옮겨가고 있음을 보여준다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

래블업 신정규 대표 “GPU는 몇 장이 아니라 얼마나 뽑아쓰느냐가 중요”
테크42 · 2026-10-01

래블업은 GPU·NPU 클러스터에서 AI 학습·추론을 배치·관리하는 소프트웨어 Backend.AI를 개발하는 기업으로, 분할 GPU 기술과 자체 AI 전용 오케스트레이터 ‘소코반’을 통해 GPU 자원 활용률을 높인다. 신정규 대표는 업스테이지 컨소시엄과 함께 B200 GPU 504장 클…

"AI 판도 6개월마다 변화"...업계 생존전략 논의
바이라인네트워크 · 2026-09-30

AI 기술 발전 주기가 빨라지면서 빅테크의 칩·인프라·LLM·앱 전방위 확장에 대응하는 기업 생존 전략이 논의됐다. 패널들은 이기종 칩 최적화, 하드웨어의 긴 개발 주기, 에이전트 최적화, 인프라 조합 증가에 따른 테스트 부담 등을 주요 병목으로 꼽았다. 차별화 요소로는 특화 도메인, …

오텍캐리어, 싱가포르 데이터센터 전시회서 냉각 기술 소개
전자신문 SW · 2026-09-30

오텍캐리어가 싱가포르에서 열린 '데이터센터 월드 아시아 2026'에 참가해 AI 데이터센터 냉각 솔루션 공급 등 사업 협력 방안을 여러 기업과 논의했다고 30일 밝혔다. 글로벌 캐리어는 전시회에서 냉각수분배장치(CDU)와 고효율 냉동기 등 데이터센터용 차세대 냉각 기술을 선보였다. 오텍…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →