'AI가 인류 멸망시킬 것'이라는 테크 CEO들의 경고

국무조정실 지속가능발전추진단이 공개한 '대한민국 지속가능발전 국가보고서' 초안에 따르면, 한국은 정보·데이터 문해력과 디지털 콘텐츠 창작 등 ICT 활용 역량에서 OECD 21개국 중 최상위권을 기록했다. 반면 개인정보 설정, 보안 조치, 온라인 정보 신뢰성 검증 등 안전 영역의 기초 …

오픈AI에서 해고된 안전 연구원 자스민 왕, 토멕 코르박, 미키타 발레스니 3명이 이사회와 안전 관련 위원회에 공개서한을 보냈다. 이들은 외부 안전 평가기관과의 협력을 강화하고 최첨단 AI 모델의 추론 과정을 감시할 수 있는 능력을 유지해야 한다고 촉구했다. 또 이번 해고가 내부 직원들…

UC 버클리 스튜어트 러셀 교수가 5일(현지시간) 공개된 디 인포메이션 팟캐스트에서 현재 LLM 중심 정렬 연구가 근본적 한계에 부딪혔다고 밝혔다. 그는 모방 학습과 RLHF 방식으로는 AI를 인간의 목표에 완벽히 일치시키는 것이 구조적으로 불가능할 수 있다고 주장했다. 러셀 교수는 '…