AI 결과의 저장·추적, 모델 버전과 접근기록까지 관리해야
미국, AI 장애 대응지침 발표…영상 픽셀에 숨긴 명령문 공격도 확인
연재 순서
- 9월 4일 | 심평원 AI 심사 첫발, 의료영상 AI가 국가 인프라로 들어온다
- 9월 11일 | 의료영상 AI 통합 플랫폼 경쟁
- 9월 18일 | 폐암검진 AI와 국가검진 사후관리
- 9월 25일 | 유방암 AI, 간격암 감소와 진단시간 단축으로 임상 가치 확인한다
- 10월 2일 | 뇌졸중 AI, 영상 분석을 치료와 환자 회복으로 연결한다
- 10월 9일 | DICOM 표준화와 의료영상 AI의 성능·보안 관리
- 10월 16일 | 임상 성과에 연동하는 의료영상 AI 수가
- 10월 23일 | 한국 의료영상 AI의 세계시장 전략
의료영상 인공지능(AI)이 병원에서 안정적으로 작동하려면 촬영장비와 의료영상저장전송시스템(PACS), 방사선정보시스템(RIS), 전자의무기록(EMR)이 환자와 검사 정보를 같은 기준으로 주고받아야 한다. 영상의학의 국제표준인 DICOM(Digital Imaging and Communications in Medicine)은 컴퓨터단층촬영(CT)과 자기공명영상(MRI), 엑스레이 등 의료영상과 환자·검사·장비 정보를 함께 저장하고 전송하는 기반을 제공한다.
그러나 DICOM 형식으로 영상을 전송한다고 해서 AI 결과의 정확성과 보안이 자동으로 확보되지는 않는다. 검사명과 촬영 부위가 병원마다 다르게 입력되거나 환자정보와 영상이 잘못 연결되면 AI가 분석해야 할 영상을 누락하거나 다른 알고리즘으로 전달할 수 있다. 암호화와 접근통제, 사용기록, 모델 버전 관리가 빠지면 표준화된 연결망은 공격과 오류가 확산되는 경로가 될 수도 있다.
의료영상 AI의 성능은 알고리즘 자체와 입력 데이터, 병원의 운영환경이 함께 결정한다. 같은 제품도 CT 제조사와 영상 재구성 방식, 절편 두께, 조영제 사용, 검사 프로토콜과 환자집단이 달라지면 결과가 변할 수 있다. 병원은 AI가 어떤 영상과 메타데이터를 입력받았고 어떤 버전으로 분석했으며 결과가 누구에게 전달됐는지 확인할 수 있어야 한다.
DICOM은 AI 결과를 임상 업무에 연결하는 공통 언어다
DICOM은 영상 파일의 저장 형식에 그치지 않는다. 환자 식별정보와 검사 일시, 촬영 부위, 영상장비, 검사 프로토콜을 영상과 연결하고 의료기관 간 전송과 조회 방식을 정한다. 웹 기반 표준인 DICOMweb은 의료영상을 검색하고 불러오며 저장하는 기능을 지원한다.
AI가 생성한 폐결절 위치와 크기, 뇌출혈 의심 영역, 유방촬영 위험점수도 원본 영상과 환자 검사에 정확히 연결돼야 한다. 결과를 별도의 화면이나 이미지 파일로만 제공하면 영상의학과 전문의가 원본 영상과 비교하기 어렵고, 후속검사에서 같은 병변의 변화를 추적하기도 힘들다. 구조화된 DICOM 객체를 사용하면 측정값과 표시 영역, 분석에 사용한 영상을 기존 판독시스템에서 관리할 수 있다.
표준을 사용해도 제품 간 연동이 자동으로 이뤄지는 것은 아니다. 각 제조사가 지원하는 DICOM 기능과 데이터 항목, AI 결과의 표시 방식이 다를 수 있기 때문이다. 병원은 제품을 도입하기 전에 공급자가 제출한 DICOM 적합성 명세서를 검토하고 실제 장비와 의료영상저장전송시스템에서 영상을 송수신하는 시험을 해야 한다.
검사명의 불일치도 주요 오류 원인이다. 같은 흉부 CT가 병원과 장비에 따라 서로 다른 이름과 코드로 기록되면 AI가 검사 종류를 정확히 구분하지 못할 수 있다. 단순한 문자열 규칙에 의존하면 응급검사가 누락되거나 대상이 아닌 영상이 분석될 가능성이 있다. 촬영 부위와 방식, 조영 여부, 영상 계열을 표준화하고 예외 사례를 관리해야 한다.
AI 분석 결과를 의료진의 판독목록에 표시하는 과정도 확인해야 한다. 응급 뇌졸중이나 뇌출혈 AI가 의심 영상을 우선순위 상단에 올렸더라도 담당 의료진에게 알림이 전달되지 않으면 치료시간은 줄어들지 않는다. 반대로 위양성 알림이 반복되면 경고 피로가 증가하고 다른 응급환자의 판독이 늦어질 수 있다.
코어라인소프트 미디어팀 김윤아 차장은 의료영상 AI의 경쟁 기준과 관련해 “앞으로는 단일 알고리즘의 정확도보다 의료영상저장전송시스템과 전자의무기록, 다기관 업무 과정에 얼마나 안정적으로 연결되는지가 더 중요한 경쟁력이 될 수 있다”고 말했다. 독일 폐암검진처럼 1·2차 판독과 이전 영상 비교, 추적관찰, 품질관리가 연결되는 시장에서는 검사 한 건을 분석하는 기능보다 전체 검진 과정을 안정적으로 지원하는 능력이 중요해진다는 설명이다.
코어라인소프트에 따르면 독일에서는 법정건강보험 기반 저선량 CT 폐암검진이 시작되면서 여러 기관과 판독자를 연결하는 AI 수요가 증가하고 있다. 다만 계약기관 수와 실제 설치기관, 검사 건수, 의료진의 사용률은 서로 다른 지표다. 국가검진의 운영 성과를 판단하려면 AI 분석 건수와 이전 영상 비교 성공률, 판독시간, 재검토율, 추적검사 이행률을 함께 확인해야 한다.
AI가 병원 업무에 깊이 연결될수록 장애의 영향도 커진다. 클라우드 연결이 끊기거나 공급자의 서버가 중단됐을 때 영상이 판독목록에서 사라져서는 안 된다. AI 결과가 도착하지 않더라도 의료진이 기존 방식으로 판독을 계속하고, 서비스 복구 후 누락된 검사와 영향을 받은 환자를 다시 확인할 수 있어야 한다.
보안은 영상 전송에서 임상 복구까지 관리해야 한다
DICOM 표준에는 암호화 통신과 접근기록을 지원하는 보안체계가 포함돼 있다. 전송구간 보호에는 전송계층보안(TLS)을 사용할 수 있고, 감사기록에는 누가 언제 어느 환자의 정보에 접근해 어떤 작업을 했는지 남길 수 있다. 그러나 병원이 해당 기능을 설정하지 않거나 오래된 장비가 보안 규격을 지원하지 않으면 표준에 기능이 있어도 실제 보호로 이어지지 않는다.
의료기관은 암호화 여부와 사용자 인증, 접근권한, 인증서와 암호키 관리, 로그 보관기간을 제품별로 확인해야 한다. AI 공급자와 클라우드 운영자가 환자 영상에 접근하는 조건도 계약에 명시해야 한다. 원격 유지보수 계정과 외부 연결망은 필요한 시간과 범위에서만 열고 모든 접근을 기록해야 한다.
미국 보건부문조정위원회 사이버보안작업반은 10월 8일 ‘AI 임상 복원력 지침’을 발표했다. AI 관련 위협이나 장애를 발견한 시점부터 환자안전 검토, 규제기관 보고, 시스템 복구까지 임상의와 IT·보안, 거버넌스, 컴플라이언스 조직이 함께 대응하도록 제시했다.
이 지침은 의료영상 AI 보안을 정보유출 방지에 한정하지 않는다. AI가 잘못된 우선순위를 제공하거나 응급 알림이 중단됐을 때 의료진이 어떤 절차로 전환할지, 영향을 받은 환자를 어떻게 찾아 재검토할지, 시스템을 언제 다시 가동할지를 사전에 정하도록 했다. 법적 강제력이 없는 실무 지침이지만 AI 장애를 임상 업무의 연속성과 환자안전 문제로 다뤘다는 점에서 의미가 있다.
새로운 공격 방식도 확인됐다. 10월 3일 국제학술지 ‘Scientific Reports’에 발표된 연구에서 연구진은 치과 파노라마 영상의 픽셀 안에 공격 명령문을 넣고 GPT-4o와 Gemini 2.5 Flash, Claude Sonnet 4.5, MedGemma 4B 등 네 개의 시각언어모델을 시험했다.
연구진이 영상 270건을 대상으로 5만8320회의 추론을 수행한 결과 네 모델 모두 공격의 영향을 받았다. 특정 조건에서는 공격 성공률이 62.6%에 달했다. 영상 속 문자를 찾아 제거하는 광학문자인식 기반 방어를 적용하자 전체 공격 성공률은 15.6%에서 0.2%로 낮아졌다.
이 연구는 영상의 헤더와 전송망을 보호해도 픽셀 안에 들어간 명령문이 멀티모달 AI의 판단을 조작할 수 있음을 보여준다. 외부 의료기관에서 받은 영상이나 환자가 직접 올린 자료를 시각언어모델에 입력할 때 영상 안의 문자와 출처를 확인해야 한다. 비정상적인 명령문이 감지되면 AI 분석을 중단하고 의료진에게 넘기는 절차도 필요하다.
표준화 이후에도 AI 성능을 지속해서 관리해야 한다
다만 이번 결과를 현재 병원에서 사용하는 모든 의료영상 AI에 그대로 적용할 수는 없다. 치과 공개영상을 이용한 통제된 공격 실험이며 실제 의료기관의 침해사고를 조사한 연구도 아니다. 주로 병변 탐지를 수행하는 기존 영상 AI와 문장 지시를 해석하는 시각언어모델은 공격 방식과 위험 구조가 다르다.
영국 정부는 10월 6일 국가 의료 AI 규제위원회가 제시한 권고 44개를 모두 수용했다. 의료 AI를 제품 허가만으로 관리하지 않고 의료기관 도입과 실제 사용 성능, 의료진 책임, 환자에 대한 투명성, 제품 수명주기를 함께 관리하겠다는 방침이다. 정부는 현행 의료기기 규정이 AI의 빠른 변화를 충분히 반영하지 못한다고 판단하고 시판 전 심사와 시판 후 감시를 연결하기로 했다.
미국 의료영상정보학회(SIIM) 이사회 의장인 나빌레 사프다르(Nabile Safdar) 박사는 의료영상 AI의 책임 있는 사용에 대해 “한 번의 도입으로 끝나는 일이 아니라 지속적인 과정”이라고 강조했다. 그는 “전담조직이 방법론과 기술을 바탕으로 정해진 절차를 계속 적용해야 한다”며 의료영상 AI 운영의 기반으로 AI 과학과 상호운용성 표준, 전문가 참여와 정확한 검증 방법을 제시했다.
사프다르 의장의 발언은 DICOM 연동을 구축한 뒤에도 모델 버전과 성능 변화, 접근기록, 오류 사례와 중단 기준을 지속해서 관리해야 한다는 점을 보여준다. 표준화는 AI를 병원 시스템에 연결하는 출발점이며, 실제 안전성은 의료기관의 운영·감시 체계에서 결정된다.
한국은 의료영상저장전송시스템 보급률과 건강보험·국가검진 데이터를 활용해 의료영상 AI의 국가 성능관리 기반을 구축할 수 있다. 이를 위해 식품의약품안전처의 제품 허가와 변경관리 정보, 병원의 실제 사용기록, 장비·촬영조건, 건강보험심사평가원의 진료자료를 제품명과 모델 버전에 따라 연결해야 한다. 환자정보 보호와 기업의 영업비밀을 고려해 수집 범위와 접근권한도 정해야 한다.
병원과 공공기관의 AI 도입 계약에는 DICOM 연동 여부만 적어서는 충분하지 않다. 지원하는 데이터 객체와 검사 코드, AI 결과의 저장 형식, 암호화와 접근기록, 모델 업데이트 절차, 장애 대응시간, 성능 저하 기준을 구체적으로 포함해야 한다. 서비스 종료 이후의 데이터 처리와 대체 제품 전환 조건도 사전에 정할 필요가 있다.
의료영상 AI의 표준화는 모든 제품을 같은 방식으로 만드는 작업이 아니다. 영상과 환자, 검사, AI 결과를 일관된 구조로 연결해 오류의 원인을 찾고 제품을 교체해도 진료기록과 추적관리를 유지하는 기반을 만드는 일이다. 표준화된 연결과 성능감시, 보안·복구 절차가 함께 운영돼야 의료영상 AI를 병원의 핵심 인프라로 사용할 수 있다.
제7회에서는 미국과 한국의 의료영상 AI 보상제도를 비교하고, 제품 허가와 청구코드가 실제 보험급여로 이어지기 위해 필요한 임상·경제적 근거를 분석한다.
