의료 행정 분야에 인공지능을 도입하려는 움직임이 예상치 못한 난관에 부딪혔다. 당초 AI는 사전 승인이나 의료 코딩 등 방대한 서류 작업의 짐을 덜어줄 것으로 기대되었다. 그러나 페터슨 보건 기술 연구소(Peterson Health Technology Institute)의 최근 보고서에 따르면, AI 시스템은 운영 비용을 절감하기보다 오히려 거래량을 늘려 의료 시스템의 비용 부담을 가중시키고 있다.

기술과 사회의 상호작용을 연구하는 학생들에게 이번 사례는 '굿하트의 법칙(Goodhart’s Law)'이 적용되는 전형적인 모습으로 다가온다. 굿하트의 법칙이란 어떤 지표가 목표가 되는 순간, 더 이상 좋은 지표로서의 기능을 상실한다는 경제학 원칙이다. 의료 시스템이 행정 업무를 자동화하면서 의도치 않게 악순환의 고리가 만들어졌다.

자동화된 사전 승인 요청에 AI가 다시 자동 거부로 대응하는 이른바 '봇 전쟁(bot wars)'이 벌어지고 있다. 이러한 과정에서 추가적인 인적 개입이 요구되며, 결과적으로 기술을 통해 기대했던 비용 절감 효과가 모두 상쇄되고 만다. 사전 승인 워크플로우를 넘어 의료비 청구 분야에서도 유사한 문제가 나타나고 있다.

AI 의료 기록 작성 시스템은 의사와 환자의 대화를 듣고 임상 기록을 자동으로 생성하도록 설계되었다. 하지만 이 기술들이 높은 복잡성을 가진 진단 코드를 선호하도록 설정되는 경우가 많아 보험사와 환자의 의료비 부담을 키우는 결과를 초래한다. 결국 의료비 지출 증가를 자동화하는 셈이며, 의료 보험 체계는 이를 감당하기 위해 고군분투하고 있다.

더욱 뼈아픈 사실은 이러한 문제들이 소프트웨어 자체의 결함이 아니라, 이를 둘러싼 정책과 인프라의 실패에서 기인한다는 점이다. 현재 파편화된 전자건강기록(EHR) 시스템은 원활한 통합을 방해하며, 오히려 복잡성을 더하는 제3자 솔루션에 의존하게 만든다. 연구진은 우리가 20세기형 행정 구조 위에 21세기형 지능을 억지로 결합하려 한다고 지적한다.

시스템 간 통신 방식이나 보상 체계에 대한 전면적인 재설계 없이 단순히 AI를 추가하는 것만으로는 근본적인 낭비를 해결할 수 없다. 오히려 잘못 설계된 배포 모델은 행정적 비효율을 더욱 심화시킬 뿐이다.

의료 행정 분야에 인공지능을 도입하려는 움직임이 예상치 못한 난관에 부딪혔다. 당초 AI는 사전 승인이나 의료 코딩 등 방대한 서류 작업의 짐을 덜어줄 것으로 기대되었다. 그러나 페터슨 보건 기술 연구소(Peterson Health Technology Institute)의 최근 보고서에 따르면, AI 시스템은 운영 비용을 절감하기보다 오히려 거래량을 늘려 의료 시스템의 비용 부담을 가중시키고 있다.

기술과 사회의 상호작용을 연구하는 학생들에게 이번 사례는 '굿하트의 법칙(Goodhart’s Law)'이 적용되는 전형적인 모습으로 다가온다. 굿하트의 법칙이란 어떤 지표가 목표가 되는 순간, 더 이상 좋은 지표로서의 기능을 상실한다는 경제학 원칙이다. 의료 시스템이 행정 업무를 자동화하면서 의도치 않게 악순환의 고리가 만들어졌다.

자동화된 사전 승인 요청에 AI가 다시 자동 거부로 대응하는 이른바 '봇 전쟁(bot wars)'이 벌어지고 있다. 이러한 과정에서 추가적인 인적 개입이 요구되며, 결과적으로 기술을 통해 기대했던 비용 절감 효과가 모두 상쇄되고 만다. 사전 승인 워크플로우를 넘어 의료비 청구 분야에서도 유사한 문제가 나타나고 있다.

AI 의료 기록 작성 시스템은 의사와 환자의 대화를 듣고 임상 기록을 자동으로 생성하도록 설계되었다. 하지만 이 기술들이 높은 복잡성을 가진 진단 코드를 선호하도록 설정되는 경우가 많아 보험사와 환자의 의료비 부담을 키우는 결과를 초래한다. 결국 의료비 지출 증가를 자동화하는 셈이며, 의료 보험 체계는 이를 감당하기 위해 고군분투하고 있다.

더욱 뼈아픈 사실은 이러한 문제들이 소프트웨어 자체의 결함이 아니라, 이를 둘러싼 정책과 인프라의 실패에서 기인한다는 점이다. 현재 파편화된 전자건강기록(EHR) 시스템은 원활한 통합을 방해하며, 오히려 복잡성을 더하는 제3자 솔루션에 의존하게 만든다. 연구진은 우리가 20세기형 행정 구조 위에 21세기형 지능을 억지로 결합하려 한다고 지적한다.

시스템 간 통신 방식이나 보상 체계에 대한 전면적인 재설계 없이 단순히 AI를 추가하는 것만으로는 근본적인 낭비를 해결할 수 없다. 오히려 잘못 설계된 배포 모델은 행정적 비효율을 더욱 심화시킬 뿐이다.