모델 803건 · 국산 131 · 가격 645 추적 중
AI 인프라·반도체

망고부스트, OS부터 랙까지 AI 에이전트 인프라 구축

전자신문 SW·2026-09-21

요약

에이전트형 AI는 목표를 이해하고 도구를 사용하며 작업을 반복하기 때문에 단순 챗봇 대화보다 연산량(토큰)이 크게 늘어난다. 기사에 따르면 추론형 거대언어모델은 단순 대화 대비 약 10배, 에이전트 시스템은 약 1000배의 토큰을 사용한다. GPU를 단순히 추가하는 방식만으로는 이 비용과 효율 문제를 맞추기 어렵다는 것이 문제로 지적된다. 2022년 설립된 망고부스트는 소프트웨어와 서버, 데이터센터를 하나의 세트로 묶어 이 문제를 해결하는 방식을 택했다.

큐레이터 노트

원문에 없는 맥락입니다

에이전트 AI 확산으로 연산 수요가 급증하는 상황에서 GPU 증설이 아닌 소프트웨어·서버·데이터센터 통합 설계로 접근하는 사례다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

AWS, 멀티에이전트 협업용 Runtime Instances 공개
AWS ML Blog · 2026-09-30

AWS가 Amazon Bedrock AgentCore의 새로운 컴퓨팅 옵션 'Runtime Instances'를 소개했다. 기존 서버리스 마이크로VM이 세션당 최대 8시간만 지원하는 것과 달리, Runtime Instances는 최대 14일까지 세션을 유지하고 GPU와 영구 저장소를 활…

"한국판 코어위브 넘는다"...엘리스그룹 코스닥 도전
AI타임스 · 2026-09-30

엘리스그룹이 9월 30일 서울 여의도 CCMM에서 기자간담회를 열고 코스닥 상장을 통한 성장 전략을 발표했다. 2015년 설립된 이 회사는 모듈형 AI 데이터센터(AI PMDC), 인프라 관리 소프트웨어 ECI, GPU 클라우드 서비스(GPUaaS), 교육·기업 AX 솔루션 '헬피'로 …

컴팔, OCP 서밋서 NVIDIA AI 팩토리 인프라 공개
ZDNet Korea · 2026-09-30

컴팔 일렉트로닉스가 OCP 글로벌 서밋 2026에서 차세대 AI 팩토리 인프라를 선보였다. 발표에는 800VDC 전력 아키텍처와 메가와트급 전력 인프라, 첨단 액체 냉각 기술이 포함됐다. 컴팔은 전력, 냉각, 랙 통합을 개별 시스템이 아닌 상호 연결된 요소로 설계해 NVIDIA 가속 컴…

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
챗봇
사용자와 자연어 대화를 주고받으며 질문에 답하거나 작업을 수행하는 소프트웨어 프로그램을 말한다.
추론
추론(Inference)은 학습이 끝난 인공지능 모델이 새로운 입력을 받아 예측이나 답변 같은 출력을 만들어내는 과정을 말한다.
토큰
언어 모델이 텍스트를 처리할 때 사용하는 최소 단위로, 단어나 단어의 일부, 문장 부호 등을 가리키는 말이다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

전자신문 SW 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →