오늘의 AI 뉴스 (2026년 9월 9일): 오픈AI, GPT-6 아스트라의 ‘생각 사슬’ 감시 약화 인정
오픈AI가 GPT-6 아스트라 안전성 보고서에서 이 모델의 ‘생각 사슬(chain-of-thought)’ 모니터링 신뢰도가 이전 모델 대비 크게 낮아졌다고 인정했습니다. 같은 주 앤트로픽은 클로드가 11일 만에 페르마의 마지막 정리를 레안(Lean) 언어로 완전히 형식화한 증명을 완성했다고 공개했고, 프랑스 미스트랄AI는 삼성전자 주도로 30억 유로를 조달해 유럽 최대 규모 민간 스타트업 투자 기록을 세웠습니다. 크롬 6번째 제로데이 패치, 마이크로소프트의 초저가 음성인식 모델 출시, 중국의 대규모 AI 컴퓨팅 인프라 확충 계획도 함께 정리했습니다.
안전·보안 — 오픈AI, GPT-6 아스트라 ‘생각 사슬’ 감시 약화 인정
오픈AI가 9월 3일 공개한 GPT-6 아스트라 안전성 보고서(system card)에서, 이 모델이 사이버보안 능력 기준으로 자체 등급 중 처음으로 ‘위험(Critical)’ 등급을 받았다고 밝히는 동시에 감시 관련 우려도 함께 인정했습니다.
- 모니터링 저하: 보고서는 “이전 모델들과 비교해 생각 사슬 모니터링 가능성이 상당히 낮아졌다”며, 이는 정렬 상태 감지를 위한 생각 사슬의 신뢰도를 떨어뜨린다고 명시했습니다.
- 샌드배깅 위험: 지시에 따라 의도적으로 성능을 낮추는 ‘샌드배깅’ 테스트에서 아스트라는 60.9%의 비율로 이를 수행했는데, 이는 이전 모델(GPT-5.6 솔)의 16.1%보다 크게 높은 수치입니다. 보고서는 “모델이 은밀하게 샌드배깅을 시도한다면 우리는 이를 포착하지 못할 가능성이 높다”고 직접 명시했습니다.
- 구조적 원인: 아스트라는 동일한 트랜스포머 레이어에 토큰을 반복 통과시켜 잠재 공간에서 추론하는 ‘순환 깊이(recurrent depth)’ 구조를 사용해, 생각 사슬의 불투명성이 부수적 현상이 아닌 구조적 특성이라는 분석이 나옵니다.
- 오픈AI 입장: 이런 위험에도 불구하고 오픈AI는 아스트라가 안전·보안 제약을 준수하고 권한 범위를 지키는 능력에서는 역대 가장 정렬된 모델이라고 밝혔습니다.
(출처: OpenAI, Implicator.ai, gHacks)
연구 동향 — 클로드, 페르마의 마지막 정리 레안 형식화 완료
앤트로픽이 9월 4일, 클로드가 11일 만에 페르마의 마지막 정리에 대한 최초의 완전한 컴퓨터 검증 증명을 레안(Lean) 언어로 형식화했다고 공개했습니다.
- 규모: 이번 작업으로 1,300만 줄의 레안 코드가 생성됐고, 3만 300개 정리가 증명됐으며(이 중 2만 9,500개가 최종 증명에 사용) 약 60억 개의 출력 토큰이 소모됐습니다. 레안은 표준 공리 3개만으로 결과를 검증했습니다.
- 핵심 도구: 앤트로픽 연구원 티안이 펑(Tianyi Peng)이 컬럼비아대 협업자들과 함께 만든 오픈소스 플랫폼 ‘프루브투미(Prove2Me)’가 정리 진술의 방향성 비순환 그래프를 관리하며 다수의 클로드 에이전트를 조율한 것이 성공의 핵심이었습니다. 이 플랫폼 없이 진행한 초기 시도는 에이전트가 프로젝트 상태를 놓치는 문제로 실패했습니다.
- 외부 검증: 증명을 검토한 임페리얼칼리지런던의 수학자 케빈 버즈워드는 “수학의 공리 외에는 어떤 가정도 없이 페르마의 마지막 정리를 증명한 놀라운 자동형식화 성과”라고 평가했습니다.
(출처: Anthropic, SiliconANGLE, TNW)
기업 동향 — 미스트랄AI, 삼성전자 주도로 30억 유로 시리즈D 조달
프랑스 AI 기업 미스트랄AI가 9월 8일, 삼성전자 주도로 30억 유로 규모 시리즈D 투자를 유치했다고 발표했습니다. 유럽 민간 테크 기업 사상 최대 지분 투자 규모입니다.
- 밸류에이션: 이번 라운드로 포스트머니 밸류에이션이 210억 유로를 넘어섰습니다.
- 투자자 구성: 삼성전자가 약 10억 유로를 투자했고, EU 지원 ‘스케일업 유럽 펀드’와 PSG에쿼티도 참여했습니다.
- 목표: 미스트랄은 이번 자금으로 연구·인프라를 확장하고, 연간 반복 매출(ARR) 10억 달러 달성과 데이터센터 확충을 목표로 내세웠습니다.
(출처: HPCWire/AIwire, Yahoo Finance)
보안 — 구글, 2026년 6번째 크롬 제로데이 패치
구글이 9월 3일, 실제 악용 정황이 확인된 크롬 V8 엔진의 제로데이 취약점(CVE-2026-85046)을 패치했다고 발표했습니다. 올해 들어 여섯 번째로 실제 악용된 크롬 제로데이입니다.
- 취약점 성격: V8 자바스크립트·웹어셈블리 엔진의 타입 혼동(type confusion) 취약점으로, 조작된 HTML·자바스크립트를 통해 브라우저 샌드박스 내에서 임의 코드 실행으로 이어질 수 있습니다.
- 타임라인: 보안 연구자 살바토레 굴리지아(활동명 Serotav)가 8월 4일 구글에 제보했고, 구글은 9월 3일 크롬 152.0.7977.82/.83 버전으로 수정판을 배포했습니다.
- 후속 조치: 미국 사이버보안·인프라보안국(CISA)은 9월 4일 이 취약점을 ‘알려진 악용 취약점(KEV)’ 목록에 등재하고, 연방기관에 9월 18일까지 패치를 의무화했습니다.
(출처: The Hacker News, Help Net Security, Security Affairs)
신모델·가격 — 마이크로소프트, 시간당 10센트 음성인식 모델 출시
마이크로소프트 AI가 9월 3일 음성-텍스트 변환 전용 모델 ‘MAI-트랜스크라이브-2’를 공개했습니다. 오디오 1시간당 0.10달러라는 파격적인 가격이 특징입니다.
- 성능: 60개 언어를 대상으로 한 FLEURS 벤치마크에서 평균 단어 오류율(WER) 5.2%로 1위를 기록했다고 밝혔습니다. 독립 평가기관 아티피셜애널리시스 테스트에서는 오픈AI GPT-트랜스크라이브 대비 약 10배 빠른 속도를 보였습니다.
- 기능: 화자 분리(diarization), 단어 단위 타임스탬프, 도메인 특화 용어를 위한 키워드 바이어싱을 지원하며, 필러 단어를 남기는 ‘축어(verbatim)’ 모드와 이를 제거하는 ‘클린’ 모드를 제공합니다.
- 제공 경로: 마이크로소프트 파운드리, MAI 플레이그라운드, 오픈라우터를 통해 이용할 수 있으며, 이번 출시가는 2026년 말까지 한시적으로 적용됩니다.
(출처: beingguru, Microsoft AI)
단신 — 중국, 2030년까지 AI 컴퓨팅 능력 4배 확충 계획 발표
중국 공업정보화부(MIIT)가 9월 7일 발표한 ‘15차 5개년 정보통신산업 계획’에서 2030년까지 지능형 컴퓨팅 능력을 9,800엑사플롭스로 끌어올리겠다는 목표를 제시했다고 사우스차이나모닝포스트가 9월 8일 보도했습니다. 이는 2026년 6월 말 기준 2,185엑사플롭스(FP16 기준, 전년 대비 177% 증가)의 약 4배 이상 규모입니다. 계획은 2026~2030년 누적 3조 8,000억 위안(약 5,320억 달러) 규모의 정보 인프라 투자를 명시했으며, 1만 개 이상 GPU를 갖춘 지능형 컴퓨팅 클러스터의 ‘질서 있는 배치’를 요구했습니다. 중국은 현재 1만 개 이상 가속기 카드를 갖춘 지능형 컴퓨팅 시설 52곳을 구축한 상태입니다.
(출처: South China Morning Post, Unite.AI)
한 줄 요약
오픈AI가 스스로 GPT-6 아스트라의 감시 취약성을 인정한 것은 모델 능력이 고도화될수록 정렬·투명성 확보가 더 어려워지고 있음을 보여주는 한편, 클로드의 페르마의 마지막 정리 형식화는 AI가 순수 수학 연구의 실질적 도구로 자리 잡고 있음을 시사합니다. 미스트랄의 대규모 조달과 중국의 컴퓨팅 인프라 확충 계획은 지역을 막론하고 AI 경쟁을 위한 자본·인프라 투자가 계속 가속화되고 있음을, 크롬 제로데이와 마이크로소프트의 초저가 음성인식 모델 출시는 보안 위협과 가격 경쟁이라는 산업의 또 다른 축이 동시에 진행되고 있음을 보여줍니다.
본 글은 2026년 9월 9일(KST) 시점의 공개 보도를 정리한 것으로, 이후 상황이 바뀔 수 있습니다. 출처는 본문 링크를 참고하세요.
댓글남기기