AI
오늘의 AI 뉴스 (2026년 10월 24일): 은행 계좌 접근 AI 에이전트 우려, OpenAI 모니터링 결함, 대규모 코드 검증
미국 대형 은행들이 고객 계좌에 접근하는 검증되지 않은 제3자 AI 에이전트의 위험을 통제하려 하고 있고, Microsoft는 중국 연계 조직이 에이전트형 AI로 공급망 공격을 가속했다고 밝혔습니다. METR과 Redwood Research는 OpenAI 내부 에이전트 모니터링 시스템의 결함을 지적했고, Anthropic은 Claude로 오픈소스 라이브러리 123개의 보안 속성을 검증했다고 발표했습니다.
보안·안전
- 은행 계좌와 AI 에이전트: Morgan Stanley, Bank of America 등은 고객 계좌에 접근하는 제3자 AI 에이전트의 위험을 억제하려 하고 있습니다. 핵심 문제는 어떤 행동이 고객의 지시인지, 에이전트가 지시를 넘어 한 것인지 가려내는 귀속(attribution)입니다. (출처: Axios)
- 에이전트형 AI를 쓴 공급망 공격: Microsoft는 중국 연계 Storm-0940이 ARTEX 에이전트형 침투 테스트 시스템을 ConnectWise 침해에 사용했다고 밝혔습니다. 에이전트가 공격 활동을 자동화하고 Microsoft 365 환경의 애플리케이션 자격 증명을 악용했습니다. (출처: Microsoft Security Blog)
- OpenAI 에이전트 모니터링 결함: METR과 Redwood Research가 3주간 OpenAI에 상주하며 내부 에이전트의 정렬 이탈 탐지 시스템을 평가했고, 에이전트가 수백 건의 행동을 모니터링에서 숨길 수 있었던 취약점을 포함해 여러 결함을 찾았습니다. (출처: METR on X, Reuters)
- OpenAI 연구원 해고: WSJ에 따르면 OpenAI는 Signal 대화에서 민감 정보를 부적절하게 다뤘다는 이유로 안전 연구원 3명을 해고했고, 외부 연구자의 시스템 접근을 둘러싼 갈등이 배경에 있습니다. (출처: WSJ)
- Altman·Gates 발언: Sam Altman은 하드웨어 수준을 포함해 AI가 찾아내는 취약점이 기존 패치 가정을 넘어설 수 있다고 말했고, Bill Gates는 유리한 전환이라도 20년의 혼란을 예상한다고 말했습니다. (출처: X, The Verge)
연구·기업 동향
- Anthropic 대규모 형식 검증: Claude로 오픈소스 라이브러리 123개의 보안 속성을 검증했으며, 컴파일된 코드에 대한 속성을 증명하고 수년간 발견되지 않던 버그를 찾았다고 합니다. (출처: Anthropic)
- Microsoft 진단 AI: 순차적으로 진단을 좁혀가는 시스템이 Science에 실린 연구에서 복잡한 사례에서 일반의보다 2배 넘게 정확했다고 합니다. 다만 TechCrunch는 성능 향상의 상당 부분이 기반 AI 모델 덕일 수 있다고 짚었습니다. (출처: Reuters, TechCrunch)
- KLS 추측 증명: Microsoft 연구자 Xinzhi Zhang과 Zhao Song이 31년 된 Kannan-Lovász-Simonovits 추측을 증명했으며, AI가 후보 방향을 탐색하고 연구자가 선별·정제했습니다. (출처: Unite.AI)
- OpenAI 조달 보도: OpenAI가 IPO를 앞두고 약 1조 2,500억 달러 가치로 300억 달러 규모 조달을 추진 중이라고 보도됐습니다. (출처: TechCrunch)
- Agent Skills 기증: Anthropic이 Agent Skills를 Agentic AI Foundation에 기증합니다. 2025년 12월 이후 ChatGPT, Cursor, GitHub Copilot, VS Code 등 70개 넘는 에이전트 플랫폼이 이 표준을 도입했다고 합니다. (출처: Claude Developers on X)
신제품·도구
- Claude 자동 모드: 다음 주부터 Pro·Max·Team 사용자의 웹·데스크톱·모바일에서 자동 모드가 기본값이 되며, 자동 점검이 위험한 행동을 막고 수동 승인으로 되돌릴 수 있습니다. (출처: Claude on X)
- 1Password for Agents: Anthropic·OpenAI와 함께 개발한, 자율 에이전트에 자격 증명과 서비스 접근을 제공하는 플랫폼입니다. (출처: 1Password on X)
- 이미지·영상 모델: Ideogram이 텍스트·이미지에서 SVG를 만드는 첫 벡터 모델을, Canva가 첫 이미지 생성 모델을 냈고, HeyGen Video 1은 Artificial Analysis 블라인드 테스트 텍스트-투-비디오 1위를 기록했다고 합니다. (출처: Ideogram on X, TechCrunch, HeyGen on X)
- Carbon-X: Hugging Face가 자연어로 DNA 서열을 분석·생성하는 모델을 공개했습니다. (출처: Business Insider)
- Arc 종료: The Browser Company는 AI 브라우저 Dia에 집중하기 위해 Arc를 12월 22일부터 이용할 수 없게 한다고 밝혔습니다. (출처: Arc on X)
한 줄 요약
AI 에이전트가 계좌와 코드, 공격 도구에까지 파고들면서 신원 귀속과 모니터링, 검증이 이번 주 가장 큰 숙제로 부각됐습니다.
개발자 코멘트
은행들이 제3자 AI 에이전트의 계좌 접근을 통제하려 한다는 소식에서 핵심으로 꼽힌 ‘귀속’ 문제는 앱 개발자에게도 그대로 해당한다고 봅니다. 사용자가 직접 누른 것인지 에이전트가 대신 실행한 것인지 서버 로그만으로 구분할 수 없다면, 문제가 생겼을 때 원인을 찾기도 책임을 따지기도 어렵습니다. 저는 API 요청에 실행 주체를 구분할 수 있는 정보를 남기는 방식을 미리 고민해 둘 생각이고, 1Password for Agents처럼 에이전트용 자격 증명을 따로 다루는 도구가 어떻게 자리 잡는지도 함께 지켜보려 합니다.
본 글은 2026년 10월 24일(KST) 시점에 집계 페이지(The Neuron)의 요약과 링크된 출처를 정리한 것입니다. 1차 출처를 직접 열어보지 못한 항목이 많고, 수치는 대부분 회사·보도 측 주장이므로 이후 바뀌거나 정정될 수 있습니다.
댓글남기기