CVS헬스는 왜 "AI는 절대 결정하지 않는다"고 선을 그었나

미국 최대 헬스케어 기업 중 하나인 CVS헬스가 AI 도입 원칙을 공개적으로 못 박았습니다. "AI는 절대 결정을 내리지 않는다." 진단, 보험금 지급 여부, 사람과의 접점을 없애는 일에는 AI를 쓰지 않겠다는 선언입니다. 1억8500만 명을 상대하는 회사가 왜 이런 선을 그었는지, 그리고 한국 기업엔 어떤 의미인지 짚어봅니다.

보험금 심사, 진단, 처방 조정처럼 사람의 생명과 돈이 걸린 판단에 AI를 어디까지 들여도 될까요. CVS헬스가 내놓은 답은 명확합니다. "핵심 판단은 사람이, 나머지는 AI가"라는 역할 분리입니다. 미국 헬스케어 이야기지만, AI 거버넌스를 고민하는 국내 은행·보험사·병원에도 참고할 대목이 있습니다.

CVS헬스, 1억8500만 명을 상대하는 회사의 AI 원칙

CVS헬스는 약국(CVS Pharmacy), 보험사 아에트나, 처방약급여관리(PBM) 사업 캐어마크, 미닛클리닉까지 아우르는 미국 최대 헬스케어 기업 중 하나입니다. 2025년 12월 투자자의 날에서 회사는 9000여 개 매장망을 포함해 약 1억8500만 명의 소비자와 연결돼 있다고 밝혔고, 이 중 6200만 명이 이미 디지털 채널로 회사와 접촉하고 있다고 설명했습니다. 같은 자리에서 CVS헬스는 AI 도입으로 운영 비용을 10억 달러 넘게 절감했고, 간호 인력의 준비 시간을 하루 90분 줄였다고 덧붙였습니다.

규모가 이 정도면 AI를 도입할 때 위험도 커집니다. 오진 하나, 보험금 오류 처리 하나가 수백만 명에게 동시에 영향을 줄 수 있기 때문입니다. Neatprompts 뉴스레터(2026년 7월 5일자)가 다시 조명한 것도 바로 이 지점, "이 정도 규모에서 AI를 어떻게 통제하느냐"는 질문이었습니다.

"AI는 절대 결정하지 않는다" — 세 가지 가드레일

CVS헬스의 벤처 담당 수석부사장 겸 최고경험기술책임자(CXTO) 틸락 만다디는 포춘(Fortune)과의 인터뷰에서 이렇게 말했습니다. "우리가 가진 AI에 관한 가장 중요한 철학은, AI는 절대 결정을 내리지 않는다는 것입니다." 그는 이어 세 가지 구체적인 가드레일을 제시했습니다.

바꿔 말하면 AI는 진단서를 작성하거나, 처방 변경을 확정하거나, 보험금 지급 여부를 최종 결정하는 자리에 서지 않습니다. 대신 데이터를 정리하고, 반복 업무를 대신 처리하고, 담당자가 더 빨리 판단하도록 돕는 보조 역할에 머뭅니다. 이런 역할 분담은 AI 세션이 끝날 때마다 던져야 할 블라인드스팟 체크와 같은 맥락입니다. AI가 무엇을 자동으로 처리했고, 어디서부터 사람이 다시 확인해야 하는지를 미리 정해두는 것이죠.

원칙과 현실 사이: 아에트나 AI 심사 논란

다만 선언과 실제 운영이 늘 일치하는 건 아닙니다. 2025년 11월 미국 로펌 샬 로(Schall Law Firm)는 CVS헬스의 보험 계열사 아에트나가 메디케어 어드밴티지 가입자의 급성기 후 치료(post-acute care) 보험금 사전 승인을 AI로 먼저 걸러낸 뒤 의료 전문가 검토로 넘겼다는 의혹을 두고 조사에 들어갔다고 밝혔습니다. 계약상으로는 의료 전문가가 사전 승인 여부를 판단해야 하는데, AI가 그 전 단계에서 상당 부분을 걸러냈을 가능성이 제기된 것입니다.

이 사안은 미국 상원에서도 관심을 보인 것으로 전해졌습니다. 물론 조사는 아직 결론이 나지 않았고, CVS헬스가 내건 "AI는 결정하지 않는다"는 원칙 자체를 부정하는 결과인지도 단정할 수 없습니다. 다만 이 사례는 선언과 실제 프로세스 사이의 간극이 어디서 생기는지를 보여주는 좋은 참고점입니다. 사람이 최종 서명을 한다 해도, AI가 그 전 단계에서 사실상 결과를 좁혀 놓는다면 원칙이 지켜졌다고 말하기 어렵습니다.

한국 은행·보험사·병원이 참고할 점

한국에서도 은행의 여신 심사, 보험사의 보험금 지급 판단, 병원의 진단 보조 시스템에 AI가 빠르게 들어오고 있습니다. CVS헬스 사례가 주는 실질적인 시사점은 두 가지입니다.

첫째, "AI가 무엇을 하지 않는가"를 먼저 문서로 명시하는 것이 출발점입니다. CVS헬스처럼 진단·지급 거부·인간 접점 제거라는 금지선을 구체적으로 정해두면, 현장 담당자와 고객 모두 어디까지가 AI의 몫이고 어디부터가 사람의 책임인지 헷갈리지 않습니다. 둘째, 선언과 프로세스를 일치시키는 감사 체계가 필요합니다. 아에트나 사례처럼 AI가 "1차 필터" 역할만 해도, 그 필터링이 최종 결과를 사실상 좌우한다면 원칙은 무력화됩니다. 이는 코드에 보안 취약점이 숨어 있는지 정기적으로 점검하듯, AI가 개입한 프로세스도 주기적으로 점검하는 루틴이 있어야 한다는 뜻입니다.

국내 금융위원회와 개인정보보호위원회도 AI 신용평가·보험 심사에 대한 설명 의무와 인간 개입 원칙을 강화하는 방향으로 가이드라인을 다듬고 있습니다. CVS헬스 사례는 그 방향이 왜 필요한지 보여주는 실제 사례에 가깝습니다. 규모가 클수록 원칙은 구체적이고 검증 가능해야 합니다.

자주 묻는 질문 (FAQ)

출처

• Neatprompts 뉴스레터, AI 도입 원칙 관련 보도 (2026-07-05)
• Fortune, "Inside CVS's bold AI health care plan—and the tech chief's surprising warning for the industry" (2025-07-09)
• CVS Health 뉴스룸, 투자자의 날 발표 자료 (2025-12)
• PR Newswire (Schall Law Firm), 아에트나 보험금 심사 조사 관련 보도자료 (2025-11)