AI가 66% 일을 해도, 누가 도장을 찍을까
- AI 에이전트가 일을 꽤 잘해도 기업은 바로 회사 도장을 맡기지 않습니다. 진짜 병목은 성능보다 권한, 로그, 데이터 경계, 사고 시 증명 책임입니다.
- Stanford AI Index의 66% 작업 성공률과 88% AI 도입률은 “쓸 수 있다”는 신호입니다. 하지만 운영 현장에서는 “어디까지 접근하게 할 것인가”가 더 비싼 질문이 됩니다.
- 반복매출 후보는 모델 자체보다 permissioning, DLP, 감사로그, eDiscovery, human-in-the-loop 같은 통제 레이어입니다. 데모는 답을 만들고, 운영은 증거를 남깁니다.
AI 에이전트가 실제 컴퓨터 작업의 약 66%를 해낸다고 합니다. 꽤 그럴듯하죠. 그런데 기업 보안팀 입장에서는 바로 그 숫자가 찝찝합니다. "일을 했네"보다 먼저 나오는 질문이 있습니다. 누가 접근했고, 무엇을 실행했고, 사고가 나면 무엇을 증명하나.
AI가 일은 하는데, 도장은 못 찍는다
신입사원이 서류를 빨리 넘긴다고 바로 회사 도장을 맡기진 않습니다. AI 에이전트도 비슷합니다. 문서를 열고, 표를 고치고, 메일 초안을 만들 수는 있습니다. 하지만 고객 데이터와 결제, 계약, 인사 정보로 들어가는 순간 문제는 성능이 아니라 책임입니다.
Stanford AI Index는 글로벌 조직의 AI 도입률을 88%로 봅니다. 이제 질문은 "쓸까 말까"가 아닙니다. "어디까지 권한을 줄까"입니다. 반은 자동화의 문제고, 반은 감사의 문제입니다. 데모는 답을 만들고, 운영은 증거를 남깁니다.
기업 AI는 실험실이 아니라 업무권한 안으로 들어왔다
Microsoft 365 Copilot을 떠올리면 쉽습니다. Copilot은 허공에서 답을 만드는 챗봇이 아닙니다. 문서, 메일, 일정, 채팅처럼 회사 안에 이미 쌓인 데이터와 권한을 타고 움직입니다. Microsoft 문서도 Copilot이 Microsoft Graph 권한과 테넌트 경계 안에서 작동한다고 설명합니다.
여기서 Purview가 붙습니다. Purview는 문서상 생성형 AI 앱의 프롬프트와 응답, 민감도 라벨, DLP, 통합 감사 로그, eDiscovery, 보존 같은 기능 표면을 제공합니다. 다만 이건 "제품이 이런 통제 기능을 제공한다"는 근거입니다. Purview만의 별도 실적이 확인됐다는 증거는 아닙니다.
규제 시계도 움직입니다. EU AI Act의 일반 적용일은 2026-08-02입니다. 모든 AI에 같은 의무가 붙는다는 뜻은 아니지만, 고위험 AI와 범용 AI 쪽에서는 데이터 거버넌스, 문서화, 로그, 인간 감독, 사이버보안이 더 이상 좋은 말로만 남기 어렵습니다.
문제는 모델 답변이 아니라 누가 무엇을 실행했는지다
통제 레이어는 거창한 새 제품 하나가 아닙니다. 줄로 세우면 이렇습니다. 누가 로그인했나. 어떤 데이터에 접근했나. AI가 어떤 도구를 호출했나. 차단됐거나 승인된 이유는 무엇인가. 나중에 같은 판단을 다시 재현할 수 있나.
이 흐름은 IAM, 데이터 카탈로그와 계보, 프롬프트·툴 호출 로그, DLP와 가드레일, 보존·감사 증거로 이어집니다.
MCP와 OWASP 같은 기술·보안 문서도 최소 권한, human-in-the-loop, 활동 로깅, 과도한 자율성 통제를 반복해서 말합니다. 말은 어렵지만 결국 문 앞 경비원과 CCTV, 출입기록부를 AI 업무에 붙이는 일입니다.
다른 산업에서도 비슷한 장면은 있습니다. 물류 클레임은 깨진 사진과 배송 로그를 남기고, 의료청구·심사/품질은 누가 어떤 근거로 승인·반려했는지를 남깁니다. 다만 이 비교는 제한된 가설입니다. 계약구조와 책임 이전이 AI 업무 통제와 같다고 단정할 근거는 아직 부족합니다.
돈은 컴퓨트 위의 보존·감사·거버넌스에 붙는다
여기서 헷갈리면 안 됩니다. AI 통제 레이어가 뜬다고 해서 컴퓨트 돈이 빠지는 게 아닙니다. Microsoft의 FY26 첫 9개월 property/equipment additions는 801.46억 달러였습니다. 데이터센터와 장비 투자는 여전히 거대합니다.
그 위에 붙는 비용이 문제입니다. 기업은 Copilot 같은 업무 AI를 쓰면서 권한관리, 감사로그, 장기 보존, eDiscovery, DLP 정책, 데이터 카탈로그를 같이 챙겨야 합니다. 공급자가 파는 것은 "우리가 법적 책임을 대신 져드립니다"가 아닙니다. 사고가 났을 때 꺼낼 기록과 정책 집행 장치입니다.
Microsoft 365 Commercial cloud revenue growth는 19%였습니다. 이 지표에는 Security and Compliance와 Copilot이 포함된 넓은 구독 묶음이 들어갑니다. 그래서 돈의 위치를 볼 수는 있지만, Purview만의 별도 실적으로 쪼개면 안 됩니다. 반복 구독의 표면은 보입니다. 하지만 가격표의 세부 항목은 아직 흐립니다.
승자 단정은 아직 이르고, 책임의 가격표는 보인다
유리한 쪽은 기존 업무 데이터와 권한 체계를 잡고 있는 플랫폼입니다. Microsoft 365, Entra, Purview처럼 사용자의 업무 흐름 안에 들어간 쪽이 먼저 보입니다. 데이터 플랫폼도 유리할 수 있습니다. AI가 참고한 데이터의 출처와 권한을 설명해야 하기 때문입니다.
위험한 쪽은 "AI 기능만 붙이면 된다"고 보는 기업입니다. 모델 답변은 좋아질 수 있습니다. 하지만 로그가 비어 있고, 권한이 과하고, 보존 정책이 없으면 운영에서 막힙니다. 이 시장은 멋진 데모보다 지루한 운영표에서 갈립니다.
30초요약
AI 에이전트는 일을 더 잘하게 됐지만, 기업의 도장을 대신 찍지는 못합니다. 컴퓨트 투자는 줄어든 게 아니라 계속 커지고, 그 위에 권한·로그·보존·감사 증거 비용이 붙습니다. 앞으로 볼 지표는 로그 완전성, 권한 위반·차단 이벤트, 감사 재현성입니다. 이 셋이 비어 있으면 AI는 똑똑한 직원이 아니라 설명하기 어려운 리스크가 됩니다.