오늘의 AI 뉴스 (2026년 9월 19일): 해커, 클로드로 오픈AI 뚫어…미군은 AI 허위정보로 확전 위기
보안 스타트업 핵트론AI(Hacktron AI)가 앤트로픽의 클로드를 활용해 오픈AI 내부 소프트웨어 저장소에 침투하는 데 성공하며 AI 에이전트의 공격 능력이 얼마나 빠르게 진화했는지를 보여줬습니다. 같은 날 CNN은 미군이 AI가 만들어낸 허위 정보 보고서 때문에 중국 선박을 나포하려다 자칫 확전으로 이어질 뻔한 사건을 단독 보도했습니다. 이 밖에 캘리포니아의 ‘AI 킬스위치’ 행정명령, 버지니아의 데이터센터 책임 프레임워크, 디즈니의 캐릭터.AI 전 CEO 영입 소식도 함께 전합니다.
AI 보안 — 해커, 클로드로 오픈AI 내부 저장소 뚫어…6,500달러 포상
TechCrunch·Fortune·Forbes 등 보도에 따르면 보안 스타트업 핵트론AI의 3인 연구팀이 앤트로픽의 클로드를 이용해 오픈AI의 버그바운티 프로그램 대상 시스템을 공격, 내부 소프트웨어 저장소에 접근하는 데 성공했습니다. 오픈AI는 이 발견에 6,500달러를 포상했습니다.
- 공격 경로: 연구팀은 취약점 두 개를 연쇄적으로 결합해 오픈AI 직원 여러 명의 챗GPT 계정에 접근했고, 이를 발판 삼아 깃허브에 있는 오픈AI의 소스코드 저장소(‘모노레포’)까지 침투했습니다.
- 클로드의 역할: 연구팀은 처음에 클로드 오퍼스 4.8로 공격 코드를 만들려 했지만 여러 세션에 걸쳐 실패했습니다. 이후 오퍼스 5가 출시되자 같은 문제를 다시 맡겼고, 출시 몇 시간 만에 공격에 성공했습니다.
- 영향: 오픈AI는 고객 데이터나 AI 모델 가중치는 유출되지 않았다고 확인했으며, 핵트론AI가 발견한 취약점은 모두 조치했다고 밝혔습니다.
(출처: TechCrunch, Fortune, Forbes)
AI 안전 — 미군, AI가 지어낸 허위 정보로 확전 직전까지 갔다
CNN 단독 보도에 따르면 지난봄 이란과의 교전 상황에서 미군 내에 중국 선박이 핵무기 프로그램 부품을 운반하고 있다는 정보 보고서가 퍼졌고, 이를 근거로 군은 해당 선박을 나포하기 위한 작전을 준비했습니다.
- 경위: 무장한 미군 병력이 선박에 승선할 준비를 마치고 군용기까지 출격한 상황에서, 이 보고서가 특수작전사령부 소속 분석관이 AI의 도움을 받아 작성한 것이며 챗봇이 선박의 화물을 잘못 식별했다는 사실이 뒤늦게 드러났습니다.
- 결과: 보고서는 “완전히 허위”였고, 관계자들은 이 사건이 “전쟁을 일으킬 뻔했다”고 표현했습니다.
- 구조적 문제: 정보당국 전반에서 AI 환각으로 인한 사고가 이번이 처음이 아니며, 신속한 정보 생산 압박 속에 특히 경험이 적은 분석관일수록 AI 도구를 무비판적으로 신뢰하는 경향이 있다는 지적이 나옵니다. 정부 부처마다 서로 다른 AI 도구를 각기 다른 기준으로 쓰고 있어 통일된 검증 기준이 없는 점도 문제로 꼽힙니다.
(출처: CNN)
정책 — 캘리포니아 ‘AI 킬스위치’ 행정명령, 버지니아는 데이터센터 책임 프레임워크
캘리포니아 주지사실·Bloomberg 등 보도에 따르면 개빈 뉴섬 캘리포니아 주지사가 9월 18일 프런티어 AI 모델에 대한 ‘킬스위치(비상 차단 장치)’ 도입 가능성을 검토하는 행정명령에 서명했습니다. 같은 날 버지니아 애비게일 스팬버거 주지사도 데이터센터 책임 프레임워크와 AI 태스크포스 신설을 발표했습니다.
- 캘리포니아: 행정명령은 즉시 규제를 도입하는 것은 아니며, 주 정부와 외부 전문가로 구성된 실무진이 11월 16일까지 프런티어 모델 개발사에 비상 차단 장치를 의무화하는 방안과 AI 연구소에 독립 감사관을 상주시키는 방안 등을 검토해 권고안을 내놓을 예정입니다. 이는 뉴섬 주지사가 이달 초 AI 시스템에 대한 독립적 제3자 감사를 의무화하는 법안 두 건에 서명한 데 이은 후속 조치입니다.
- 버지니아: 스팬버거 주지사는 행정명령 22호에 서명해 주 산하 기관이 데이터센터 개발 관련 정보 공개를 막는 비밀유지계약(NDA)을 맺지 못하도록 하고, 에너지 효율·용수 사용·소음 규제 기준 마련을 지시했습니다. 아울러 AI로 인한 일자리 대체, 데이터 프라이버시, 사이버 보안 위험에 대응할 AI 태스크포스도 신설했습니다.
(출처: 캘리포니아 주지사실, Bloomberg, Unite.AI)
기업 동향 — 디즈니, 캐릭터.AI 전 CEO를 첫 CTO로 영입
CNBC·Deadline 등 보도에 따르면 월트디즈니컴퍼니가 9월 18일 캐릭터.AI 최고경영자였던 카란딥 아난드를 디즈니 최초의 최고기술책임자(CTO)로 영입한다고 발표했습니다. 아난드는 10월 2일부로 부임해 조시 다마로 디즈니 CEO에게 직접 보고합니다.
- 역할: 아난드는 엔터프라이즈 기술, 인프라, 데이터·AI 플랫폼, 제품, 엔지니어링을 총괄하며 각 사업부의 기술 조직과 협업해 회사 전반의 기술 현대화를 이끌 예정입니다.
- 아이러니한 배경: 디즈니는 2025년 9월 캐릭터.AI가 자사 캐릭터 기반 챗봇을 서비스하며 아동에게 유해하다는 이유로 중단 요구서를 보낸 바 있는데, 1년 만에 해당 회사의 전 CEO를 핵심 기술 임원으로 영입한 셈입니다. 아난드는 이전에 메타·마이크로소프트에서도 임원을 지냈습니다.
단신
- TypeSafe AI, 비-LLM 초고속 모델 ‘젭(Jev)’ 공개: 오픈AI 출신 창업자가 세운 TypeSafe AI가 토큰을 순차 생성하지 않고 병렬 샘플링으로 한 번에 출력하는 ‘시스템 원(System One)’ 모델 젭을 공개했습니다. 분류 작업 기준 기존 LLM 대비 최대 200배 빠르고 400배 저렴하다고 주장하며, 게임·로봇 등 실시간 응답이 중요한 분야를 겨냥합니다. (출처: Forkast)
- xAI, 기업용 자율 에이전트 ‘그록 봇’ 출시: xAI가 기업이 접근 권한·네트워크·감사 로그를 직접 통제하며 활용할 수 있는 자율 AI 워커 ‘그록 봇’을 출시했습니다. 그록 및 커서 엔터프라이즈 고객은 2주간 무료로 이용할 수 있습니다. (출처: x.ai)
- 다트코페이, 스테이블코인 결제로 2,500만 달러 시리즈A 유치: 싱가포르 라이선스를 보유한 스테이블코인 국경간 결제 플랫폼 다트코페이(dtcpay)가 2,500만 달러 규모 시리즈A 투자를 유치했다고 밝혔습니다. (출처: Techmeme)
한 줄 요약
오늘은 AI의 ‘공격 능력’과 ‘신뢰성 결함’이 동시에 부각된 하루였습니다. 클로드를 활용한 오픈AI 침투 성공은 최신 AI 모델이 실제 사이버 공격 도구로서 실전 수준에 도달했음을 보여주며, 미군의 AI발 허위 정보 사건은 검증되지 않은 AI 출력이 국가 간 무력 충돌로까지 번질 수 있는 현실적 위험임을 드러냈습니다. 캘리포니아의 킬스위치 검토와 버지니아의 데이터센터 책임 프레임워크는 이런 위험에 대응해 주(州) 단위 규제가 빠르게 구체화되고 있음을 보여주며, 디즈니의 캐릭터.AI 전 CEO 영입은 콘텐츠 기업들이 AI 인재 확보에 얼마나 적극적인지를 상징적으로 보여줍니다.
본 글은 2026년 9월 19일(KST) 시점의 공개 보도를 정리한 것으로, 이후 상황이 바뀔 수 있습니다. 출처는 본문 링크를 참고하세요.
댓글남기기