최근 의료분야 AI 기술의 급격한 발전과 확산에 따른 AI 시스템의 잠재적 위험이 증가하면서 관련 규정도 강화되고 있는 것으로 나타났다. 

실제 유럽연합은 세계 최초로 AI 기술을 규제하는 포괄적인 AI 규정을 제정하기도 했다. 

보건산업진흥원의 최신 글로벌 보건산업 동향 보고서에 따르면 이 규정은 유럽연합에 진출하려는 비유럽연합 기업에도 적용되어 국제적 영향력을 가지게 된다. 

또한 AI 기술의 혁신을 장려하면서도 위험을 관리해 AI 시스템이 사회에 미치는 영향을 최소화하고 인간의 기본 권리와 자유를 보호하는 것을 목적으로 한다. 

해당 AI 법안 규정의 적용 범위를 살펴보면 2024년 8월 1일 AI 법안 발효 후 2030년 8월 공공기관으로까지 규정 준수가 확대된다. 

특히 의료 목적으로 설계된 AI는 유럽과 영국에서 의료기기로 분류되어 규제되며, 앞으로는 의료기기 제조업체가 AI 시스템을 제공하는 경우 사이버 공격 방지, 오류 감지 및 인간의 통제 가능성 등에 대한 요구사항을 준수해야 한다. 

구체적으로 ▲거버넌스 및 데이터 관리 요구 사항 ▲시스템 운영 동안 로그를 자동으로 기록하는 것을 포함한 새로운 데이터 기록에 대한 보관 요구 사항 ▲배포자가 출력을 해석하고 적절하게 사용할 수 있도록 투명한 설계 요구 사항 ▲인간이 감독하는 것에 대한 요구 사항 ▲정확성 및 사이버보안 요구 사항 등이 해당한다. 

한편 제약 분야에서 AI 시스템은 약물개발부터 임상시험 모집, 시판 후 활동까지 의약품 수명주기 전반에 걸쳐 AI 시스템과 모델의 사용과 개발이 점점 더 늘어나고 있다. 

제약 분야의 경우 이러한 AI 시스템 중 다수는 AI법에 따라 고위험으로 지정되지 않았기 때문에 의료기기가 될 가능성이 낮아, 시스템 제공자에게 충분한 AI에 대한 투명성과 안전성 요건만 부과하게 된다. 

보고서는 "AI 시스템은 대량의 데이터를 분석하고 패턴을 인식해 진단기술과 환자 치료를 개선하는데 기여하며, 최근 몇 년간 의료분야에서의 AI로 사용이 급속히 증가했다"면서 "기업은 AI 시스템을 개발, 배포, 사용하기 전에 규제 요건을 철저히 준수해야 한다"고 강조했다. 

특히 "기업들에게 이러한 규제는 추가적인 비용 부담과 시간 소요가 발생할 것으로 보인다"면서 "유럽연합 차원 규제는 의료기기 산업에 중대한 영향을 미칠 것으로 예상된다"고 내다봤다. 

더불어 "AI 시스템에 대한 규제가 성공적으로 정착하기 위해서는 각국의 규제기관 간 긴밀한 협력과 조정을 통한 규제의 일관성 유지 및 효율적 집행이 필요하다"고 제안했다. 

저작권자 © 메디팜스투데이 무단전재 및 재배포, AI학습 및 활용 금지