모델 801건 · 국산 131 · 가격 643 추적 중
AI 안전·정렬·평가

MIT, 안전 필수 분야용 생성AI 제약 충족 기법 개발

MIT News (AI)·2026-09-14영문 원문

요약

MIT 연구진이 확산모델·플로우매칭 모델 같은 생성AI가 로봇 경로 계획 등 안전이 필수적인 문제에서 반드시 지켜야 하는 '하드 제약'을 만족시키도록 돕는 HardFlow 기법을 개발했다. 기존 방식은 생성 과정의 모든 중간 단계에서 제약을 강제해 최종 해의 품질을 떨어뜨렸지만, HardFlow는 최종 출력에서만 제약을 강제해 모델이 더 자유롭게 탐색하도록 한다. 로봇 조작, 미로 탐색, 텍스트 기반 이미지 편집 실험에서 제약을 완벽히 만족하면서 기존 방법보다 나은 해를 찾았다고 연구진은 밝혔다. 이 방법은 사전학습된 생성모델을 재학습 없이 배포 단계에서 바로 적용할 수 있다. 연구는 IEEE Transactions on Pattern Analysis and Machine Intelligence에 게재됐다.

큐레이터 노트

원문에 없는 맥락입니다

제약을 매 단계가 아닌 최종 출력에만 걸어 생성 자유도와 안전성을 동시에 확보한 접근으로, 재학습이 필요 없어 기존 사전학습 모델에 바로 적용 가능하다는 점이 실용적 의미를 갖는다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

현대차그룹, 실리콘밸리서 테크 인재 포럼 개최
ZDNet Korea · 2026-09-29

현대차그룹이 미국 캘리포니아 산호세에서 이틀간 'HMG 테크 탤런트 포럼'을 열고 약 380명이 참석했다. 현대차, 기아, HATCI, HMGMA, 보스턴다이나믹스, 모셔널, 포티투닷 등 9개사가 참여해 AI, 로보틱스, 자율주행, 스마트 제조, 소프트웨어·IT, 수소·에너지·배터리 등…

스모어톡, 신한은행에 숏폼 영상 AI 공급
AI타임스 · 2026-09-27

스모어톡이 숏폼 영상 제작 AI '레이턴트 스튜디오'를 신한은행에 공급하는 계약을 체결했다. 신한은행 S&T센터는 매일 PDF 리포트로 배포하던 데일리 환율 시황을 숏폼 영상으로 확대 제작한다. 담당자가 그날의 환율 시황 설명문을 입력하면 AI가 시나리오 기획, 장면 구성, 일러스트 생…

유튜브, 생성 AI 대거 도입...자연어 편집·맞춤 피드
AI타임스 · 2026-09-24

유튜브가 9월 23일(현지시간) 연례행사 '메이드 온 유튜브'를 열고 생성 AI 기능을 편집, 알고리즘 피드, 스튜디오 분석, 쇼핑 등 서비스 전반에 통합했다고 발표했다. 가장 주목받은 기능은 구글의 멀티모달 모델 '제미나이 옴니'를 기반으로 한 대화형 AI 편집 도구로, 크리에이터가 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
사전학습
사전학습은 특정 작업에 맞춰 조정되기 전에, 대량의 텍스트나 데이터로부터 언어와 세계에 대한 일반적인 패턴을 모델이 스스로 학습하는 과정을 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

MIT News (AI) 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →