English version: Read in English
Anthropic의 2026년 9월 위협 인텔리전스 보고서가 보여주는 핵심은 “공격이 완전히 자율화됐다”는 것이 아니다. 더 현실적인 변화는 AI가 악성 활동에 필요한 시간·기술·인력을 줄여준다는 점이다.
Anthropic은 9월 10일 Detecting and countering misuse of AI: September 2026를 공개했다. 보고서는 2025년 12월부터 2026년 8월 사이 회사가 탐지·차단했다고 밝힌 사례를 다루며, 사이버 활동, 영향력 공작, 사기, 감시, 생물학적 오용, 재래식 무기 개발, 모델 증류 등 7개 위험 영역을 포함한다.
이 자료는 범위를 정확히 봐야 한다. Anthropic이 자사 시스템에서 관찰한 사례를 정리한 것이므로 전 세계 AI 악용 전체를 대표하는 중립적 통계는 아니다. 그럼에도 프런티어 모델 제공자가 실제 악성 사용 패턴을 어떻게 보고 있는지 보여주는 1차 자료라는 가치는 있다.
중요한 변화는 단순한 ‘자율성 증가’가 아니다
보고서에는 AI가 보조도구로 사용된 사례부터 워크플로의 상당 부분을 처리한 사례까지 다양한 형태가 등장한다. 그러나 Anthropic은 자율성 수준과 피해 규모를 같은 것으로 보지 않는다. 자동화가 높다고 항상 피해가 큰 것도 아니고, 사람이 직접 통제하는 작전도 충분히 심각할 수 있다.
더 중요한 변화는 운영비용 감소다. 예전에는 더 많은 기술지식, 언어능력, 시간 또는 여러 역할의 사람이 필요했던 작업을 범용 AI가 일부 대신할 수 있다. 그 결과 소수의 인력이 더 많은 시도를 하거나 더 빠르게 반복하고, 여러 전문 기능을 하나의 작업 흐름으로 묶기 쉬워질 수 있다.
결정적인 순간에는 여전히 사람이 남아 있다
AI가 분석·작성·운영 지원의 상당 부분을 맡더라도, 보고서 속 여러 사례에서는 사람이 여전히 중요한 결정을 내린다. 목표를 고르고, 실행 여부를 판단하고, 접근권한을 제공하거나, 자금을 이동시키고, 다음 행동을 승인하는 식이다.
이 점은 두 가지 과도한 해석을 동시에 경계하게 한다. 하나는 AI 악용을 단순히 “기존 범죄에 챗봇을 붙인 것”으로 축소하는 시각이고, 다른 하나는 악성 행위자가 이미 작전 전체를 자율 AI에 넘기고 있다는 시각이다. Anthropic의 사례는 그 중간에 더 복합적인 현실이 있음을 보여준다.
모델 제공자의 관측력은 장점이자 한계다
프런티어 모델 제공자는 외부 연구자가 보기 어려운 패턴을 관찰할 수 있다. 반복된 프롬프트, 계정 행태, 연결된 악용 패턴, 안전장치에 걸린 시도 등이 그 예다. 이런 관측력은 위협 분석에 분명한 장점이 있다.
하지만 동시에 Anthropic은 조사자이자 이해관계자다. 자사 안전장치가 효과적으로 작동한다는 점을 보여줄 유인도 존재한다. 따라서 회사의 차단·귀속·효과 주장 자체를 독립적으로 검증된 사실처럼 취급해서는 안 된다.
AI 보안은 ‘한 번의 나쁜 프롬프트’보다 시스템 문제에 가깝다
보고서가 시사하는 보안 방향은 단일 입력을 막는 것보다 전체 악용 흐름을 보는 데 가깝다. 계정 행태, 반복 시도, 도구 사용, 여러 세션 간 패턴, 외부 위협정보, 인간의 결정 지점 등을 함께 살펴야 한다.
Anthropic은 이런 사례에서 얻은 정보를 바탕으로 안전장치를 강화하고 필요할 경우 당국과 업계 파트너에게 정보를 공유했다고 밝혔다. 다만 그 조치가 실제로 얼마나 효과적인지는 이 보고서만으로 독립적으로 평가하기 어렵다.
실질적인 결론
이번 보고서는 AI가 악성 활동을 완전히 자율화했다는 증거라기보다 더 좁고 현실적인 변화를 보여준다. 범용 AI가 해로운 활동의 운영비용을 낮추고, 한 사용자가 더 많은 기능을 결합할 수 있게 만든다는 점이다.
따라서 AI 악용 대응도 모델 하나의 안전성만으로 끝나기 어렵다. 계정 통제, 모니터링, 외부 위협정보, 인간 검토, 운영자 인센티브까지 함께 다루는 시스템 문제가 된다.