프로젝트 퍼셉션, 왜 지금 주목할까
AI 보안 위협은 더 이상 단순한 유출 사고나 가짜 뉴스 생성 수준에 머물지 않습니다. 2025년 들어 랜섬웨어에 버금가는 정밀도로 LLM을 노리는 ‘프롬프트 인젝션’ 공격, 내부 모델 가중치를 통째로 추출하는 ‘모델 유출’, 그리고 에이전트형 AI가 스스로 외부 시스템을 호출하며发生的해 오는 ‘간접 프롬프트 인젝션’까지, 공격 벡터가 폭발적으로 늘어나고 있죠. 이런 흐름 속에서 Microsoft’s ‘Project Perception’ could challenge Anthropic’s Mythos in AI security라는 관측이 나오면서 업계가 술렁이기 시작했습니다.
마이크로소프트가 제시한 ‘프로젝트 퍼셉션(Project Perception)’은 단순한 보안 필터를 넘어, AI가 작동하는 전 과정에서 위협을 스스로 ‘감지’하고 ‘맥락화’하는 차세대 방어 프레임워크로 읽힙니다. 회사가 가진 방대한 Azure 인프라, 디펜더(Defender) 텔레메트리, 그리고 M365 사용 로그를 한 데 묶어 LLM 기반 워크플로의 이상 신호를 실시간으로 포착하는 것이 골자인데, 업계에서는 이를 앤트로픽이 최근 공개한 ‘미토스(Mythos)’와 직접 비교하며 빅테크 AI 안전성 경쟁의 새 격전지로 분석하고 있습니다 (추정).
특히 퍼셉션은 ‘AI 보안의 운영체제’라는 표현이 나올 만큼, 기업 현장에서 발생하는 위협을 모델 외부에서 인지(perception)하는 데 방점을 찍었다는 점에서 주목할 만합니다.
프로젝트 퍼셉션의 핵심 기술 구조
퍼셉션의 핵심은 두 가지 축으로 정리할 수 있습니다. 첫 번째는 ‘정밀 탐지(precision detection)’이고, 두 번째는 ‘실시간 인지 아키텍처(real-time perception loop)’입니다.
기존 LLM 보안에서는 프롬프트 인젝션, 민감 데이터 유출, 유해 콘텐츠 생성 같은 위협을 후행적으로 필터링하는 데 집중했습니다. 반면 퍼셉션은 대화 흐름, 사용자의 평소 패턴, 그리고 모델이 호출하는 외부 API의 응답값까지 종합적으로 분석해 위협 여부를 판단합니다. 즉, 단일 발화 단위가 아니라 세션 단위 맥락을 보는 것이죠.
아키텍처 측면에서는 ‘인지 계층(perception layer)’이 모델 앞뒤를 감싸는 형태로 배치됩니다. 입력 측에서는 사용자의 의도와 시스템 메시지의 위변조를 탐지하고, 출력 측에서는 사실 여부, 정책 위반 가능성, 그리고 잠재적 데이터 유출 위험을 점수화합니다. 이 점수는 마이크로소프트의 SIEM/SOAR 제품군과 연동돼 보안 담당자에게 즉시 알림으로 전달되는 구조입니다 (추정).
미토스와 다른 차별점
앤트로픽의 미토스는 ‘모델 내부 정렬(internal alignment)’에 방점을 찍습니다. 모델 자체가 위험한 행동을 덜 하도록 학습 단계에서부터 거버넌스를 강화하고, 추론 과정에서 헌법적 가드레일을 스스로 점검하게 만드는 방식이죠. 반면 퍼셉션은 ‘외부 인지(external perception)’에 집중합니다. 학습된 모델은 그대로 두되, 그 모델을 둘러싼 시스템이 위협을 감지하고 대응하도록 설계됐다는 점에서 접근법 자체가 다릅니다 (추정).
이 차이가 실무적으로 의미하는 바는 큽니다. 미토스형 접근은 모델을 다시 학습시키거나 일관된 행동 원칙을 심어야 하기 때문에 효과가 모델의 품질에 곧바로 연결됩니다. 반면 퍼셉션은 이미 배포된 엔터프라이즈 LLM, 심지어 오픈소스 모델에도 후행적으로 덧씌울 수 있다는 장점이 있습니다. 표준 API와 에이전트 오케스트레이션 프레임워크 위에서 동작하기 때문에 통합 관리 콘셉트로 자리잡기 좋은 셈이죠.
AI 보안 시장의 경쟁 구도 변화
마이크로소프트와 앤트로픽의 대립 구도는 AI 안전성을 ‘어디서 통제할 것인가’라는 오래된 논쟁을 다시 한번 표면 위로 끌어올렸습니다. 마이크로소프트는 인프라와 운영 환경에서 통제하고, 앤트로픽은 모델 그 자체에서 통제하겠다는 전략적 선택의 차이가 뚜렷합니다.
반면 OpenAI는 자체 모델 안전성 평가와 ‘준비도 프레임워크(Preparedness Framework)’를 통해 런타임 모델 거버넌스를 강화하는 쪽이고, 구글은 클라우드 기반 보안 제품과 제미나이 모델의 정책 필터를 결합해 하이브리드 전략을 취하고 있습니다. 이런 가운데 퍼셉션은 마이크로소프트 고유의 클라우드·엔터프라이즈 자산을 무기로 내세웠다는 점에서 포지셔닝이 또렷합니다 (추정).
기업과 개발자가 얻을 수 있는 이점
퍼셉션이 실무에 안착할 경우 기업과 개발자가 얻는 이점은 크게 세 가지로 요약됩니다. 첫째, 내부 AI 시스템을 운영하면서 발생하던 보안 감사·위협 대응 시간이 대폭 줄어들 수 있습니다. 자동화된 이상 패턴 점수와 정책 매핑이 제공되기 때문이죠. 둘째, 클라우드 네이티브 아키텍처와 결합해 멀티클라우드·하이브리드 환경에서도 일관된 보안 정책을 유지할 가능성이 높습니다. 셋째, OpenAI, 앤트로픽, 오픈소스 모델 등 다양한 LLM을 동시에 사용하는 기업의 경우 통합 관리 콘솔 하나로 위협을 모니터링할 수 있어 운영 복잡도가 낮아질 전망입니다 (추정).
도입 전 체크해야 할 현실적 고려사항
물론 아쉬운 점도 분명합니다. 퍼셉션의 정식 출시 시점과 가격 정책은 아직 마이크로소프트 측에서 구체적으로 공개되지 않았고, 베타 접근을 받는 시점에서도 일반 기업에 곧바로 개방될지는 미지수입니다 (추정). 또 기존에 구축한 보안 스택과의 호환성, 그리고 로그와 텔레메트리 데이터를 어디까지 퍼셉션의 인지 계층에 전달할 것인지에 대한 데이터 프라이버시 이슈도 사전에 충분히 검토해야 합니다. 특히 EU AI Act, 한국 AI 기본법 등 각국 규제 환경에서 ‘인지 데이터’ 자체가 민감 정보로 분류될 수 있다는 점은 도입 결정 시 중요한 체크리스트입니다.
앞으로의 전망과 우리가 주목할 포인트
퍼셉션은 마이크로소프트가 단순히 모델을 만드는 것을 넘어, ‘AI 인프라 운영체제’를 표준화하려는 전략의 일환으로 읽힙니다. 클라우드, 생산성 도구, 개발자 플랫폼에 이르기까지 회사가 가진 모든 접점에서 AI 보안 표준을 선점하겠다는 의지가 드러나는 셈이죠.
향후 6~12개월은 사실상 향후 AI 보안 판도를 가를 분기점이 될 전망입니다. 퍼셉션과 미토스가 실제 운영 환경에서 어떤 공격 시나리오를 더 잘 막아내는지, 그리고 어떤 워크플로에서 더 적은 오탐(false positive)을 만들어내는지가 검증될 시점이기 때문입니다. 동시에 오픈소스 LLM 생태계와 어떻게 공존할지, 규제 당국의 평가 기준을 어떻게 통과할지도 핵심 변수로 남아 있습니다.
여기서 우리 독자 분들이 주목할 포인트는 단 하나, ‘내 조직의 AI 시스템이 지금 외부 위협을 얼마나 정확히 인지하고 있는가’입니다. 퍼셉션이든 미토스든, 최종적으로 중요한 것은 도구의 이름이 아니라 우리 워크플로에서 위협을 얼마나 빨리, 그리고 정확하게 감지하느냐입니다.
정리하며
정리하면, 프로젝트 퍼셉션은 AI 보안을 모델 내부 정렬이 아닌 외부 인지라는 새로운 축으로 끌어온 시도라는 점에서 의미가 큽니다. 앤트로픽의 미토스와의 경쟁은 곧 AI 안전성을 어디서 통제할 것인가에 대한 산업 표준之争으로 번질 가능성이 높고, 향후 1년 안에 양쪽 제품의 실질 성능 비교가 구체화될 가능성이 큽니다. 지금 시점에서 기업과 개발자가 할 수 있는 가장 현실적인 준비는 자체 AI 워크플로의 위협 표면을 면밀히 점검하고, 퍼셉션 같은 인지 계층 솔루션이 가져올 변화를 미리 시뮬레이션해 두는 일입니다.
