오늘의 AI 뉴스 (2026년 9월 3일): 오픈AI 아스트라, 첫 ‘치명적’ 사이버보안 등급 판정
오픈AI가 신모델 아스트라(Astra)를 자체 안전성 기준인 프리페어드니스 프레임워크에서 처음으로 ‘치명적(Critical)’ 사이버보안 등급으로 분류했다고 밝혀, AI의 자율적 해킹 능력에 대한 경고음이 커졌습니다. 같은 시기 미 법무부는 뉴욕타임스와 오픈AI 간 저작권 소송에서 AI 학습이 “매우 변형적(extraordinarily transformative)”인 공정 이용에 해당한다는 의견서를 처음으로 법원에 제출했습니다. 앤트로픽의 클로드 페이블 5.1·미토스 5.1, 구글의 제미나이 3.8 플래시, 알리바바의 큐원3.8-맥스-0902 등 신모델이 잇따라 공개됐고, AI 코딩 스타트업 코그니션AI는 약 470억 달러 밸류에이션으로 10억 달러 규모 펀딩을 추진 중입니다. 2026년 9월 3일(KST) 기준 AI 소식을 정리했습니다.
안전 — 오픈AI 아스트라, 프리페어드니스 프레임워크 첫 ‘치명적’ 사이버보안 등급
오픈AI가 9월 1일(현지시간) 개발 중인 신모델 아스트라(Astra)가 자사 안전성 평가 체계인 ‘프리페어드니스 프레임워크(Preparedness Framework)’의 사이버보안 영역에서 처음으로 ‘치명적(Critical)’ 등급에 도달했다고 발표했습니다. 이 등급을 받은 오픈AI 모델은 아스트라가 처음입니다.
- 프리페어드니스 프레임워크상 ‘치명적’ 등급은 모델이 사람의 개입 없이도 다양한 실전 수준의 방어 체계에서 모든 심각도의 제로데이 취약점을 발견·악용하거나, 고수준 목표만 주어져도 새로운 사이버공격 전략을 스스로 구상해 끝까지 실행할 수 있는 수준을 의미합니다.
- 테스트에서 아스트라는 강화된 브라우저와 운영체제에서 이전에 알려지지 않은 보안 결함을 찾아냈고, 샌드박스를 탈출해 호스트에서 명령을 실행하는 전체 브라우저 침해 체인을 구축했으며, 강화된 운영체제의 여러 취약점을 결합해 로컬 권한 상승 체인을 완성했습니다. 오픈AI는 별도로 아스트라가 벤치마크 ‘익스플로잇벤치(ExploitBench)’에서 만점을 기록하고, 수정된 테스트 환경에서 자율적으로 제로데이 2건을 찾아 악용했다고도 밝혔습니다.
- 오픈AI는 이 등급 분류에 따라 추가 안전장치가 마련되기 전까지는 모델을 공개하지 않기로 했으며, 이후 안전장치가 충분하다고 판단해 단계적 공개에 나설 계획입니다. 우선 소규모 알파 테스터 그룹에 제공한 뒤 ‘데이브레이크 블루(Daybreak Blue)’ 단계로 확대하는 방식이며, 아직 일반 공개(GA) 일정은 발표되지 않았습니다.
(출처: SecurityWeek, CNBC, CSO Online, TechCrunch)
정책·법률 — 미 법무부, 오픈AI 저작권 소송에서 “AI 학습은 공정 이용” 의견서 제출
미 법무부(DOJ)가 뉴욕타임스 등 언론사들이 오픈AI를 상대로 제기한 저작권 소송에서 오픈AI 측을 지지하는 의견서를 맨해튼 연방법원에 제출했다고 9월 1~2일 전해졌습니다. 미 정부가 AI 학습 관련 저작권 소송에 공식 입장을 낸 것은 이번이 처음입니다.
- 법무부는 의견서에서 대규모 언어모델을 저작권 있는 자료로 학습시키는 행위가 “매우 변형적(extraordinarily transformative)”인 공정 이용에 해당한다고 주장했으며, 이를 제한할 경우 미국의 번영·경제적 이동성·국가안보를 위협할 수 있다고 밝혔습니다.
- 트럼프 행정부는 의견서에서 “미국은 AI 활용의 실무와 절차에서 전 세계 표준이 되는 강력하고 경쟁력 있는 AI 산업을 지속적으로 발전시키는 데 강한 이해관계를 갖고 있다”고 강조했습니다.
- 다만 이 의견서는 법원의 최종 판단을 구속하지 않으며, 소송 자체를 종결짓거나 AI 학습에 관한 모든 관행이 합법이라고 확정하는 것도 아닙니다. 저자·출판사·음반사·언론사 등이 제기한 유사 소송들이 계속 진행 중인 가운데, 이번 의견서가 향후 판결에 어떤 영향을 줄지 주목됩니다.
(출처: TechCrunch, GV Wire, Seeking Alpha)
신모델 — 앤트로픽·구글·알리바바 신모델 잇따라 공개
- 앤트로픽, 클로드 페이블 5.1·미토스 5.1 출시(9월 1일): 코딩·지식노동·장시간 문제 해결에 특화된 신모델 두 종을 공개했습니다. 페이블 5.1은 일반 공개, 미토스 5.1은 사이버보안·생명과학 분야를 지원하도록 안전장치를 강화해 신뢰된 접근 프로그램을 통해서만 제공됩니다. 벤치마크 터미널-벤치-사이언스(Terminal-Bench-Science) 0.1에서 52.6%를 기록해 페이블 5(24.7%)와 오퍼스 5(29.0%)를 크게 웃돌았고, 캐시 읽기 가격 인하 덕분에 일반 작업에서 약 25%, 고강도 에이전트 작업에서는 최대 45% 비용이 절감됐습니다. (출처: MacRumors, 9to5Mac, MarkTechPost)
- 구글, 제미나이 3.8 플래시 출시(9월 2일): 4개월 새 네 번째로 선보인 플래시 모델로, 전작 3.7 플래시(8월 13일 출시) 이후 3주 만에 나왔습니다. 아티피셜 애널리시스 인텔리전스 인덱스에서 고성능 추론 기준 59점을 기록해 3.7 플래시 대비 3점 올랐고, 소프트웨어 엔지니어링·에이전틱 작업·다단계 추론에서 개선을 강조했습니다. 가격은 입력 100만 토큰당 0.75달러, 출력 3.75달러(12월 31일까지 프로모션가)이며, 제미나이 앱(프로·울트라 구독자)·AI 모드·구글시트·앤티그래비티·AI 스튜디오·API에서 바로 이용할 수 있습니다. (출처: The Register, 9to5Google, Artificial Analysis)
- 알리바바, 큐원3.8-맥스-0902 업데이트 공개(9월 2일): 코딩·코워크(Cowork) 성격 작업에 맞춰 추가 학습한 스냅샷으로, 코드아레나(Code Arena)-웹데브 리더보드 점수가 1669점에서 1691점으로 올라 1위를 차지했습니다. 터미널-벤치 3.0은 11.3%에서 29.0%로, 딥SWE 1.1은 56.6%에서 69.3%로, NL2Repo-Bench는 55.9%에서 64.9%로 각각 상승했습니다. 2.4조 파라미터, 컨텍스트 윈도우 최대 100만 토큰이며 가격은 입력 100만 토큰당 2달러, 출력 6달러로 기존과 동일합니다. (출처: TechNode, WCCFTech, Tech Times)
펀딩 — AI 코딩 스타트업 코그니션AI, 470억 달러 밸류에이션 펀딩 추진
AI 코딩 에이전트 스타트업 코그니션AI(Cognition AI)가 약 470억 달러 밸류에이션으로 약 10억 달러 규모 신규 펀딩을 마무리하는 단계라고 9월 2일 블룸버그가 보도했습니다.
- 투자자 수요가 100억 달러에 육박한 것으로 알려져 최종 조달 규모가 10억 달러를 넘어설 가능성도 제기됩니다.
- 2026년 상반기 북미 스타트업 펀딩이 사상 최고치를 기록한 가운데 AI 분야 투자가 이를 견인하고 있으며, AI 스타트업 벤처 펀딩은 전년 대비 52% 증가한 1315억 달러를 기록했습니다.
(출처: Bloomberg)
한 줄 요약
오픈AI가 자사 모델 최초로 사이버보안 ‘치명적’ 등급을 발표하며 AI의 자율 해킹 잠재력에 대한 경각심을 높인 하루, 동시에 미 법무부는 AI 학습을 공정 이용으로 옹호하고 나서 규제 완화 기조를 재확인했으며, 앤트로픽·구글·알리바바의 신모델 경쟁과 코그니션AI의 대형 펀딩은 산업 성장세가 식지 않았음을 보여줍니다.
본 글은 2026년 9월 3일(KST) 시점의 공개 보도를 정리한 것으로, 이후 상황이 바뀔 수 있습니다. 출처는 본문 링크를 참고하세요.
댓글남기기