메디뷰의료 뉴스를 읽어 드립니다
홈 › 의료 AI

생성형 AI 의료기기를 의사처럼 시험 보게 하자는 미국 FDA 구상, 의견 수렴이 10월 19일 마감됐다 — 미국병원협회는 감시의 1차 책임을 개발사가 지라고 했다

· 메디뷰
요약
  • FDA 토론 문서는 기기가 얼마나 스스로 행동하는지와 잘못된 출력을 믿었을 때 피해가 얼마나 큰지를 두 축으로 위험을 가늠하는 틀을 내놓았다. 지침이 아니며 정책을 바꾸지도 않는다고 FDA는 밝혔다.
  • 허가 전 평가는 임상 밖에서 하는 「기기 벤치마킹」과 실제 사용 환경에서의 성능을 보는 「임상 확인」 두 부분으로 나누자는 구상이다. 시판 뒤에는 주기적 재평가, 임상의 표본 검토, 성능 저하 감시가 거론됐다.
  • 미국병원협회는 위험 판단에 되돌릴 수 있는지, 추적할 수 있는지 등을 더하고, 생성형 AI 임상의사결정지원·행정 도구는 FDA 감독 대상이 아니라고 밝혀 달라고 요청했다.
사진 rawpixel · CC0

지침이 아니라 질문지로 나온 문서

미국 식품의약국(FDA) 의료기기·방사선보건센터(CDRH) 산하 디지털헬스우수센터는 8월 18일 「생성형 AI 의료기기 규제에 관한 고려사항: 토론 문서와 의견 요청」을 공개했다. 문서는 위험 평가, 허가 전 평가, 시판 뒤 감시, 그 밖의 쟁점으로 나뉘어 있고, 의견은 공개 의견 접수 창구(docket FDA-2026-N-7874)로 10월 19일까지 받았다.

FDA는 이 문서가 토론을 위한 것일 뿐 지침 초안이나 최종 지침이 아니며, 정책 변경을 제안하거나 허가 신청 때 낼 근거에 대한 기대치를 알리는 것도 아니라고 적었다. 미국 로펌 하이먼 펠프스 앤드 맥너마라의 FDA 법률 블로그는 문서에 담긴 토론 질문이 26개이고, 이런 접근이 FDA의 현행 법적 권한 안에 들어가는지는 문서가 다루지 않는다고 짚었다.

얼마나 스스로 움직이는가, 틀리면 얼마나 다치는가

위험 평가에서 문서가 제시한 것은 두 축의 틀이다. 로펌 쿨리의 해설에 따르면 가로축은 기기가 하는 활동의 정도와 독립성, 세로축은 사용자가 잘못된 출력을 믿었을 때 생기는 결과의 심각도이고, 왼쪽 아래에서 오른쪽 위로 갈수록 위험이 커진다. FDA 법률 블로그는 활동의 단계를 행동을 지시하지 않는 것, 행동을 지시하는 것, 의료인 감독 아래 행동하는 것, 완전히 자율적인 것으로 나눠 소개했다.

쿨리는 같은 기능이라도 의료인이 아니라 환자에게 직접 정보를 주는 경우를 더 높은 위험으로 볼지 따져 보겠다는 내용과, 사용자가 결과를 스스로 확인하기 어려운 측정·신호처리 기능을 위험이 높은 쪽으로 볼 수 있다는 내용이 문서에 들어 있다고 전했다.

의사를 평가하듯 기기를 평가한다

FDA 보도자료는 허가 전 평가 방식을 의사를 훈련하고 평가하는 방식을 큰 틀에서 본뜬 「역량 평가」라고 소개했다. 두 부분으로 이뤄지는데, 하나는 임상 밖에서 하는 기기 벤치마킹이고 다른 하나는 임상 확인이다. 쿨리는 생성형 AI는 들어올 수 있는 입력과 나올 수 있는 출력의 범위가 너무 넓어 입력과 출력을 하나하나 맞춰 보는 시험이 현실적이지 않다는 점이 이런 구상의 배경이라고 설명했다.

쿨리에 따르면 벤치마킹은 실제로 배포될 설정 그대로 기기를 시험하며, 안전(위험한 상황을 알아보고 불확실성을 전달하는 능력), 임상 숙련도, 일반화 가능성(견고성·신뢰성·재현성)을 역량 범주로 들고, 스스로 작업을 수행하는 에이전트형 기능에는 별도 역량을 더한다. 기준과 범위는 미리 정해 두고 위험에 따라 달리한다. 임상 확인은 사용자와 진료 흐름, 환자 집단이 성능에 영향을 주는 실제 사용 환경을 다루는 단계로, 근거의 수준은 실제 환자 자료를 돌아보는 후향적 평가부터 전향적 연구나 무작위 대조시험까지 위험에 맞춰 정한다고 쿨리는 전했다.

시판 뒤 감시와 병원들의 요구

쿨리는 FDA가 허가 전 단계의 불확실성을 어느 정도 받아들이는 대신 시판 뒤 감시에 더 기대는 방안을 검토하고 있다고 전했다. 쿨리에 따르면 문서가 거론한 감시 방식으로는 정해진 주기와 모델 변경 때마다 다시 벤치마킹하는 것, 독립된 임상의가 실제 입력과 출력을 표본으로 뽑아 검토하는 것, 입력 인구나 데이터 환경이 바뀌며 성능이 떨어지는지 살피는 것이 있다. 기반 모델 개발사가 자료를 비공개로 맡겨 두면 기기 제조사가 이를 인용할 수 있게 하는 자발적 「기반 모델 마스터 파일」도 검토 대상에 올랐다.

마감일인 10월 19일 미국병원협회(AHA)는 FDA에 의견서를 냈다. 협회는 위험에 비례한 감독에는 찬성하면서, 활동의 정도만으로는 위험을 잘 가늠할 수 없다며 되돌릴 수 있는지, 뒤따르는 안전장치, 출력의 추적 가능성, 결과가 생길 가능성을 위험 판단에 더하라고 요청했다. 생성형 AI 임상의사결정지원 도구와 행정 도구는 FDA 감독 대상이 아니라고 분명히 해 달라는 요청도 담았다.

협회는 AI의 블랙박스 특성 때문에 병원이 결함을 찾아내기 어렵다는 이유로 시판 뒤 성능 감시의 1차 책임을 개발사가 져야 한다고 주장했다. 협회의 보건IT 보충 조사에서 병원의 74%가 예측형 AI를 평가하는 팀을 여럿 두고 있지만, 일부 병원, 특히 농촌·필수의료·안전망 병원은 거버넌스 체계와 지속적인 성능 측정에 쓸 인력과 자원이 부족할 수 있다고 덧붙였다. 협회는 AI 의료기기의 96% 이상이 기존 기기와의 동등성을 근거로 하는 510(k) 경로로 허가된다는 점도 함께 짚었다.

시사점

들어올 수 있는 입력과 나올 수 있는 출력의 범위가 너무 넓어 하나하나 맞춰 보는 시험으로는 생성형 AI를 검증하기 어렵다는 문제를, FDA가 의사 평가에 빗댄 새 평가 방식을 내놓으며 공개 토론에 부쳤다는 데 이 문서의 의미가 있어 보인다. 다만 아직은 질문지 단계이고, 접수된 의견이 어떤 지침으로 이어질지는 지켜봐야 한다.

병원 쪽 의견에서 눈여겨볼 대목은 감시 책임을 누가 지느냐다. 허가 전 근거를 덜 요구하고 시판 뒤 감시로 보완하는 구조라면 감시를 실제로 할 수 있는 주체가 있어야 하는데, 그 역량이 병원마다 다르다는 지적은 국내에서 생성형 AI 의료기기 기준을 다듬을 때도 함께 따져 볼 문제로 보인다.

핵심 숫자

토론 문서 공개2026년 8월 18일
의견 접수 마감2026년 10월 19일
토론 질문26개
예측형 AI 평가팀을 여럿 둔 병원 (AHA 인용 조사)74%
510(k)로 허가된 AI 의료기기 비중 (AHA 의견서)96% 이상

함께 읽을 것

출처

#생성형 AI #FDA #의료기기 규제