AI가 결재 버튼을 누르는 게 아니다: 돈은 예외 큐와 감사로그에서 나온다
청구서 한 장이 병원 원무과 책상에 쌓입니다. 같은 서류를 보험사 심사역도 들여다보며 중얼거립니다. 이거 진짜 맞나? 약관상 줘야 하나? 작업친 건 아니고?
물류 창고에선 깨진 택배 사진을 넘기고, 공장 품질팀은 불량인지 한 번 더 봅니다. 업종은 다 다른데, 안을 까보면 다들 똑같은 일을 합니다. 서류 보고, 수상한 거 거르고, 책임질 사람이 도장 찍고, 나중에 터지면 꺼내볼 기록을 남기고.
여기서 다들 같은 생각을 합니다. "AI 깔면 이거 자동 되겠네." 반은 맞고 반은 틀렸습니다.
AI가 대신 도장을 찍어주진 않습니다. 돈은 거기서 안 나옵니다. 돈은 훨씬 지루한 데서 나옵니다 — 서류 들어오는 입구, 애매한 걸 사람한테 넘기는 줄, 누가 왜 그렇게 판단했는지 남기는 기록. 왜 그런지, 그리고 그 돈이 어느 칸으로 흘러가는지 따라가 봅니다.
코파일럿은 도장을 대신 찍어주지 않는다
먼저 단어 하나만 정리하고 가겠습니다. 요즘 업무용 AI에 자주 붙는 말이 코파일럿(copilot)입니다.
코파일럿은 직역하면 '부조종사'입니다. 비행기 부기장을 떠올리면 됩니다. 부기장은 계기를 같이 보고, 경로를 제안하고, 위험 신호를 먼저 알려줍니다. 하지만 최종 책임과 조종간은 기장이 쥡니다.
업무용 코파일럿도 똑같습니다. 서류를 먼저 읽어 초안을 만들고, "이건 누락된 것 같다"·"이 코드는 안 맞는다"고 짚어줍니다. 그런데 청구를 승인하거나 보험금을 부지급하는 마지막 도장은 여전히 사람이 찍습니다.
그래서 "AI 깔면 자동 된다"는 기대가 반만 맞습니다. AI는 도장을 대신 찍어주는 기계가 아니라, 도장 찍을 사람을 빨리 찾아주는 기계입니다. 고객이 사는 건 똑똑한 모델이 아니라, 나중에 설명할 수 있는 운영 체계입니다.
그럼 이 흔해 보이는 '서류 보고 거르는 일'에서 진짜 돈은 어느 칸으로 흘러가는지, 왜 큰 병원은 자동화 레일에 올라탔는데 작은 병원은 못 올라타는지부터 봅니다.
작은 병원이 아직 레일에 못 올라탄다
2024년 10월, 실손보험 청구 전산화가 병원급 의료기관과 보건소에서 시작됐습니다. 그동안 환자가 서류를 떼고, 사진 찍고, 보험사 앱에 올리던 귀찮음을 줄여주는 제도입니다.
겉으로는 "청구를 편하게 해주는 서비스"로 보입니다. 맞습니다. 그런데 산업 쪽에서 보면 포인트가 다릅니다. 이건 병원·EMR(전자의무기록 시스템)·청구소프트·보험사·감독기관·환자를 같은 데이터 레일에 올리는 일입니다.
숫자를 하나만 보겠습니다. 금융위원회 자료 기준, 시행 직전인 2024-10-24에 참여를 확정한 요양기관은 4,223개, 전체 참여율은 54.7%였습니다. 절반은 넘은 셈입니다.
그런데 안을 들여다보면 격차가 큽니다. 상급종합병원은 47개 중 47개가 전부 참여했습니다. 반면 일반 병원은 24.4%, 요양병원은 4.2%에 그쳤습니다.
이 숫자의 진짜 해석은 "절반 넘게 됐다"가 아닙니다. "남은 병목이 어디인지 보이기 시작했다"입니다. 큰 기관은 움직였고, 중소 병원과 요양병원, 그 뒤의 EMR·청구소프트 연동이 남았습니다.
보험개발원이 2026-06-09에 4차 확산사업 참여기관을 모집한 것도 같은 신호입니다(접수기한 2026-06-30 18:00). 2026년 최신 누적 참여율은 이번 자료만으로 확인하지 못했지만, 확산사업이 계속된다는 사실 자체가 온보딩이 아직 끝나지 않았다는 뜻입니다.
여기서부터 AI 이야기가 현실로 내려옵니다. 모델이 아무리 똑똑해도 병원 서류가 표준화되지 않고, 코드가 안 맞고, 증빙이 빠지면 자동화는 다시 전화와 보완요청으로 되돌아갑니다.
쉽게 말하면, 공항 보안검색대다
이 구조는 공항 보안검색대를 떠올리면 쉽습니다.
모든 가방을 사람이 처음부터 끝까지 열어보면 줄이 안 빠집니다. 그래서 X-ray가 먼저 전부 스캔하고, 이상 신호가 뜬 가방만 사람이 다시 엽니다. 검색대 직원이 모든 가방을 여는 게 아니라, '의심 가방'만 골라서 봅니다.
청구·심사·품질 자동화도 똑같습니다. AI와 룰엔진이 서류를 읽고, 코드와 금액을 맞춰보고, 빠진 증빙과 이상 패턴을 먼저 거릅니다. 사람은 모든 건을 반복 확인하는 대신, 진짜 판단이 필요한 건만 봅니다.
다만 공항보다 더 까다로운 점이 있습니다. 여기엔 돈·진료정보·고객 불이익·리콜·분쟁이 걸려 있습니다. 그래서 "AI가 봤으니 끝"이 아니라, "왜 그렇게 분류됐고, 누가 최종 승인했고, 나중에 싸울 때 무엇이 남느냐"가 곧 상품이 됩니다.
돈은 자동판정이 아니라 입구·예외 큐·감사로그에서 난다
이제 돈의 흐름을 따라가 보겠습니다. 고객이 돈을 내는 일은 멋진 데 있지 않습니다. 꽤 지루합니다.
먼저 병원·EMR·청구소프트에서 들어오는 데이터를 표준 형식으로 맞춰야 합니다(데이터 커넥터). 영수증·세부내역·진료 코드·약관·증빙을 서로 대조해야 합니다. 누락은 잡아내고, 이상한 건 사람에게 넘기고(예외 큐), 누가 언제 무엇을 보고 어떤 결정을 했는지 남겨야 합니다(감사로그).
이게 반복매출의 자리입니다. 데이터 커넥터 유지보수, 룰 버전관리, 예외 큐 운영, 권한관리, 감사로그 보관, 이의제기 패키지 생성, 모니터링 대시보드. 이름만 봐도 화려함과는 거리가 멉니다.
하지만 고객에게 귀찮은 그 일이 공급자에게는 매달 들어오는 매출이 됩니다. 코파일럿 라이선스 한 번 파는 것보다, 매달 데이터 레일과 예외 큐를 돌려주는 쪽이 현금흐름에 가깝습니다.
솔직히 이 대목이 이 시장의 핵심인데, 팔리는 건 모델 한 개가 아니라 '매달 굴러가는 운영 한 세트'입니다.
HIRA(건강보험심사평가원)의 공보험 청구·심사 절차가 이 구조를 잘 보여줍니다. 의료기관이 인증 청구 소프트웨어로 파일을 만들고, 포털 점검을 거쳐 제출합니다. 그다음 기본정보 전자점검과 6단계 전자심사를 거칩니다. 오류 가능성이 높거나 전문 판단이 필요한 건은 수동심사와 위원회 검토로 넘어갑니다.
이걸 민영 실손보험과 똑같다고 말하면 안 됩니다. 공보험 절차이기 때문입니다. 그래도 운영 원형은 선명합니다. 기계가 먼저 보고, 애매한 건 사람에게 올리고, 최종 판단은 기록으로 남깁니다.
자동화가 커질수록 '설명 책임'이 더 비싸진다
여기서 관점을 한 번 뒤집어 보겠습니다. 보통은 "자동화하면 사람이 줄어든다"고 생각합니다. 그런데 현장에서 벌어지는 일은 반대에 가깝습니다.
자동화가 커질수록 조직은 더 빨라져야 하고, 동시에 더 설명해야 합니다. 고객에게 불리한 결정, 돈이 걸린 결정, 의료정보가 걸린 결정은 "AI가 그렇게 봤습니다"로 끝나지 않습니다.
미국 CMS(메디케어·메디케이드 서비스센터)의 사전승인(prior authorization) 규칙이 이 방향을 보여줍니다. 미국 payer(보험자) 규칙이라 한국 제도로 직접 옮길 수는 없습니다. 다만 API 연동, 거절 사유 명시, 긴급 72시간·표준 7일 결정기한, 공개 지표 보고 같은 요구가 무엇을 강제하는지가 중요합니다. 빨리 결정하되, 왜 그렇게 결정했는지를 데이터로 남기라는 겁니다.
EU의 AI 법(AI Act)도 같은 흐름입니다. 고용·근로자 관리처럼 사람에게 영향이 큰 AI를 고위험으로 보고 로그·문서화·데이터 품질·사람 감독을 의무로 요구합니다(2026-08-02 일반 적용). EU 규제라 한국에 그대로 적용되진 않지만, 방향은 분명합니다.
그래서 고객의 질문이 바뀝니다. 이제 "AI 있나요?"가 아니라 "나중에 설명할 수 있나요?"를 묻습니다. 자동화가 사람을 지우는 게 아니라, 사람이 책임질 일을 더 빨리 찾아내고 더 잘 기록하는 쪽으로 갑니다.
누가 유리한가: 모델보다 운영권을 쥔 쪽
플레이어별로 예산과 위험이 다릅니다.
보험사는 반복 접수, 서류 누락 확인, 약관·코드 대조, 사기 의심 선별 비용을 줄이고 싶습니다. 하지만 자동 부지급이나 감액을 설명하지 못하면 민원·분쟁·감독 리스크가 커집니다. 처리시간만 줄인 시스템은 반쪽짜리입니다.
병원·의료기관은 원무·서류 발급·청구 대응 부담을 덜고 싶습니다. 그런데 잘못된 자동 점검은 청구 반려·보완 요청·지급 조정·환자 환급·이의신청으로 되돌아옵니다. 자동화가 일을 줄이기는커녕 문의를 늘리면, 현장은 바로 등을 돌립니다.
EMR·청구소프트 업체는 병원과 보험사를 잇는 입구를 잡습니다. 단순 구축보다 표준 업데이트·보안 점검·장애 대응·커넥터 유지보수가 반복 수익에 가깝습니다. 대신 표준화가 진행될수록 단순 연동만으로는 오래 버티기 어렵습니다.
제조기업은 불량 폐기·재작업·납기 지연·고객 클레임·검사 인력 부담을 줄이고 싶습니다. KAMP(인공지능 제조 플랫폼) 제조데이터 라이브러리는 접근 시점 기준 품질보증 81건, 생산공정 최적화 43건, 예지보전 38건의 데이터 상품을 보여줍니다. 이 숫자는 도입률이나 ROI가 아닙니다. 제조 AI의 출발점이 품질보증과 공정 데이터 근처에 있다는 신호로만 봐야 합니다.
물류 사업자는 파손·지연·오배송·반품·콜센터 문의를 줄이고 싶습니다. World Bank LPI 2023에서 한국은 전체 17위, 종합 3.8점이었습니다. 국제무역 물류 지표라 국내 택배 지표와 같지 않습니다. 그래도 추적·조회·적시성 같은 운영 KPI가 자동화의 병목이라는 힌트는 줍니다.
비즈니스 서비스 사업자는 이 귀찮은 운영을 통째로 맡습니다. ISG 1Q26 자료에서 글로벌 IT·비즈니스 서비스 합산 계약액(ACV)은 394억 달러로 전년 대비 29% 늘었고, BPO(업무 위탁) ACV는 25억 달러로 62% 증가했습니다. 반대로 콜센터 ACV는 약 30% 줄었습니다.
이 대비가 핵심입니다. 단순 상담석을 늘리는 외주는 줄고, 산업별 백오피스·데이터 운영·SLA·AI 사용 범위·예외 처리 책임을 묶은 계약은 큽니다. 단, ISG 기준은 500만 달러 이상 상업 위탁계약입니다. 중소 외주 전체를 대표하는 숫자로 쓰면 안 됩니다.
비용은 줄이고 싶고 책임은 지기 싫다 — 모든 플레이어가 같은 긴장 위에 서 있습니다. 그 긴장 위에서 운영 레이어를 쥔 쪽이 협상력을 가집니다.
이건 병원과 보험만의 문제가 아니다
업종을 하나씩 떼어놓고 보면 전혀 다른 일처럼 보입니다. 병원은 청구서를 봅니다. 보험사는 약관과 증빙을 봅니다. 제조 품질팀은 불량 후보를 봅니다. 물류팀은 파손 사진과 배송 이벤트를 봅니다. 플랫폼은 상품 인증과 판매자 위험을 봅니다.
그런데 안을 까보면 흐름은 거의 같습니다. 데이터가 들어온다 → 기계(코파일럿·룰엔진)가 먼저 읽고 맞춰본다 → 이상하거나 돈이 큰 건 사람에게 올라간다 → 사람이 판단한다 → 나중에 민원·환수·리콜·제재·소송이 생기면 그때 꺼내볼 기록이 남는다. 한 줄로 이어지는 같은 공식입니다.
제조 품질검사 AI도 모델만으로 끝나지 않습니다. 제조데이터 확보, 현장 암묵지 구조화, QMS(품질경영시스템)·ISO 9001·ISO/IEC 42001·NIST AI RMF 같은 관리체계와 붙어야 합니다. 불량을 놓치면 클레임과 리콜이 나고, 멀쩡한 걸 불량으로 잡으면 폐기와 재작업 비용이 납니다. 결국 사람의 최종 판단과 기준서가 필요합니다.
국경간 커머스는 더 노골적입니다. EU 집행위는 2026-05-28 Temu에 디지털서비스법(DSA) 위반으로 2억 유로 벌금을 매겼습니다. 미국 CPSC eFiling은 2026-07-08부터 수입 규제 소비재에 본격 적용됩니다. 미국·EU 맥락이라 한국에 그대로 적용하면 안 됩니다. 그래도 패턴은 같습니다. 싸게 팔고 빨리 보내는 것만으로는 부족하고, 상품 인증 데이터·불법 상품 차단·추천 투명성·제품안전 증거 기록이 운영 레이어가 됩니다.
여기서 진짜 중요한 점은 이겁니다. 보험·병원이 먼저 겪은 'AI 선분류 + 사람 책임 + 감사로그' 구조는, 지금 제조·물류·커머스가 뒤따라 들어가는 길의 벤치마크 선례입니다. 다른 산업이 나중에 똑같이 부딪힐 병목을, 청구·심사 쪽이 먼저 보여주고 있는 겁니다.
앞으로 볼 포인트
- 최신 참여율·처리량 통계. 실손보험 청구 전산화의 누적 참여기관 수와 실제 전산 청구 처리량이 공식 통계로 나오는지. 이번 자료만으로는 2026년 최신 참여율을 확정하지 못했다.
- 예외 큐 지표. 보험사·병원이 예외 큐 비율, 사람 재검수율, 이의제기율, 민원 흐름을 지표로 관리하는지. 자동화 성과는 "AI 정확도" 한 줄보다 이 지표에서 드러난다.
- 구매 기준의 이동. 제조·물류·병원·보험에서 데이터 표준·권한관리·로그 보관·설명 사유가 구매 요건으로 들어오는지. 기능표에서 운영 책임으로 옮겨가면 공급자 구도가 바뀐다.
- 계약 조항화. 업무 위탁(BPO)·운영 위탁 계약에 AI 사용 범위·데이터 접근권·SLA·보안 책임·사람 감독이 조항으로 내려오는지. 그 순간 AI는 기능이 아니라 운영 계약의 일부가 된다.
- 규제 신호의 국내화. EU AI Act(2026-08-02)·CMS 사전승인 규칙 같은 해외 기준이 국내 구매·계약 언어로 번역되어 들어오는지.
확인하지 못한 숫자는 분명히 남깁니다. 보험금 심사 AI 정확도·자동승인율·ROI, 병원별 인력 절감률, 물류·제조 AI 평균 ROI는 이번 자료만으로 확정할 수 없었습니다. 그래서 본문에 확정 수치로 쓰지 않았습니다.
인코어 관점
이 시장의 핵심은 "AI가 결재 버튼을 누르느냐"가 아닙니다. AI(코파일럿)가 먼저 많이 보고, 사람은 적게 보되 더 책임 있게 보며, 회사는 그 과정을 감사 가능한 기록으로 남기느냐입니다.
좋은 자동화는 사람을 지우지 않습니다. 사람이 책임질 건을 더 빨리 찾고, 판단 근거를 더 잘 남깁니다.
그래서 돈은 모델 성능 자랑에서 바로 나오지 않습니다. 데이터 레일을 깔고, 예외 큐를 운영하고, 검수 콘솔과 감사로그를 꾸준히 굴리는 쪽에 붙습니다.
지루한 일을 잘하는 회사가 이깁니다. 백오피스 AI는 결재권을 기계에 넘기는 사업이 아니라, 책임지는 판단을 더 잘 보이게 만드는 사업입니다. 산업이 달라도 공식은 같습니다 — AI는 먼저 분류하고, 사람은 최종 판단하고, 회사는 나중에 설명할 기록을 남깁니다.
이것만은 가져가자
- 백오피스 AI의 돈은 자동판정이 아니라 데이터 입구·예외 큐·감사로그라는 지루한 운영 레이어에서 나온다.
- 자동화가 커질수록 사람이 줄기는커녕 '설명 책임'이 더 비싸진다. 고객의 질문은 "AI 있나요"에서 "나중에 설명할 수 있나요"로 옮겨간다.
- 병원·보험이 먼저 겪은 'AI 선분류 + 사람 책임 + 감사로그' 구조는 제조·물류·커머스가 뒤따라 부딪힐 길의 선례다.