모델 833건 · 국산 131 · 가격 670 추적 중
국내 AI 생태계

SKT·업스테이지, 'AI 사이버보안 협의체' 출범

ZDNet Korea·2026-10-08

요약

SK텔레콤과 업스테이지가 SK쉴더스, 안랩 등 정보보호 기업 6개사, 고려대·숭실대·부산대 등 대학 3개교와 함께 '독자 AI 사이버보안 협의체'를 출범하고 업무협약을 체결했다. 협의체는 보안기업이 보유한 악성코드 분석, 취약점 진단 등 현장 데이터를 SK텔레콤 A.X K3와 업스테이지 솔라 차기 모델에 학습시켜 보안 상황 판단 역량을 높인다. 성능이 강화된 모델은 각사 상용 보안 솔루션에 적용돼 실제 운영 환경에서 공동 실증을 거치며, 두 모델이 서로 공격해 취약점을 찾는 상호 레드티밍으로 안전성을 검증하고 대학 연구진이 제3자 입장에서 평가한다.

큐레이터 노트

원문에 없는 맥락입니다

정부 '독자 AI 파운데이션 모델 프로젝트'에서 검증된 국산 모델을 보안 현장 데이터로 추가 학습시켜 외산 AI 의존도를 낮추려는 시도로, 레드티밍과 대학의 제3자 검증을 결합한 구조가 특징이다.

깊이 읽기

이 기사 한 건이 아니라, 같은 사안을 다룬 이 사이트의 기록을 근거로 정리했습니다

이 일이 어디서 왔나

업스테이지는 솔라 모델을 교육(9월 15일 AI타임스), 제약사 QA 업무(9월 7일 AI타임스) 등 다양한 산업 현장에 적용해 온 데 이어, 이번에는 보안 분야로 협력 범위를 넓혔다. 앞서 9월 7일 AI 리스크 컨퍼런스에서는 전문가들이 AI 에이전트 시대의 프롬프트 인젝션, 권한·통제 문제와 함께 딥시크 기반 에이전트를 이용한 실제 공격 사례를 지적한 바 있어, 이번 협의체는 그런 위협 진단에 대한 업계의 대응 성격을 띤다.

짚어야 할 점

  • SK텔레콤 A.X K3와 업스테이지 솔라 차기 모델이 서로 공격하는 상호 레드티밍 구조는, 9월 7일 컨퍼런스에서 제기된 '권한과 통제' 문제에 대한 업계 차원의 실험적 대응으로 볼 수 있다.
  • 정부의 '독자 AI 파운데이션 모델 프로젝트'에서 검증된 모델을 활용한다는 점에서, 공공 주도 모델 개발과 민간 보안기업의 현장 데이터를 결합하는 시도로 읽힌다.
  • 대학 3개교가 제3자 검증을 맡는 구조는 기업 간 이해관계에서 독립적인 평가를 확보하려는 장치로 보이나, 평가 기준이나 결과 공개 방식은 아직 나오지 않았다.

아직 확인되지 않은 것

  • 보안기업이 제공하는 악성코드 분석·취약점 진단 데이터의 구체적 범위와 각 사의 기여도는 확인되지 않았다.
  • 상용 보안 솔루션 적용과 실증 시점, 실제 효과를 측정할 지표가 무엇인지는 밝혀지지 않았다.
  • 대학 연구진의 제3자 평가 결과가 외부에 공개되는지, 협의체 참여 보안기업 간 데이터 공유 범위에 제약이 있는지는 확인되지 않았다.

다른 매체는 이렇게 썼다

같은 사안을 다룬 다른 곳의 보도입니다

美 AI 규제 공백 속 제3자 평가기관 부상
AI타임스 · 2026-10-12

미국 연방 정부가 AI 규제 도입에 소극적인 가운데 AI 모델 안전성을 독립적으로 검증하는 비영리 연구소와 감사 조직의 역할이 커지고 있다. CNBC는 10일(현지시간) METR, 아폴로 리서치, 트랜스루스 등 독립 평가 기관들이 AI 업계에서 주목받고 있다고 보도했다. 오픈AI와 앤트…

AI도 스트레스 테스트…한국 AI 안전 시험장 가보니
전자신문 IT · 2026-10-11

AI 업계의 경쟁 기준이 모델 성능 중심에서 실제 서비스의 신뢰성과 안전성 검증으로 이동하고 있다. 전자신문은 민간 AI 신뢰성 평가기업 셀렉트스타와 국가 차원의 AI 안전평가 체계를 구축하는 인공지능안전연구소를 방문해 취재했다. 두 기관은 기업이 실제로 사용하는 AI 서비스를 대상으로…

셀렉트스타, AI 오답 잡는 안전검사 현장 공개
전자신문 IT · 2026-10-11

전자신문이 AI 신뢰성 평가기업 셀렉트스타와 국가 차원의 AI 안전평가 체계를 구축하는 인공지능안전연구소를 찾아 AI 서비스 안전성 검증 현장을 취재했다. 기사는 '대출 된다'는 식의 AI 오답 사례를 예로 들며, AI 경쟁의 기준이 모델 성능에서 실제 서비스의 신뢰성·안전성 검증으로 …

이 사안의 흐름

같은 주제를 다룬 이 사이트의 기록 — 최신순

이 글에 나온 말

용어집 전체 →
프롬프트 인젝션
신뢰할 수 없는 외부 입력에 악의적인 지시문을 숨겨 넣어, AI 모델이 원래 지침을 무시하고 공격자가 의도한 동작을 하도록 유도하는 공격 기법을 말한다.
AI 에이전트
AI 에이전트는 주어진 목표를 달성하기 위해 스스로 계획을 세우고 도구를 호출하며 행동한 결과를 관찰해 다음 행동을 결정하는 AI 시스템을 말한다.
프롬프트
AI 모델에게 원하는 작업을 지시하기 위해 입력하는 텍스트를 말한다.
학습
학습은 모델이 데이터를 반복적으로 살펴보며 예측 오차를 줄이는 방향으로 내부 파라미터를 조정해 나가는 과정을 말한다.

이 분야 브리핑

여러 매체가 함께 다룬 사안을 한 번에

이 페이지는 원문을 요약·재서술하고 이 사이트가 쌓은 기록을 덧붙인 큐레이션입니다. 원문 본문은 싣지 않으며, 수치와 표기는 원문 기준을 유지했습니다.

ZDNet Korea 원문 전체 보기 →

같은 분야의 다른 소식

전체 뉴스 →