기업 규제 적응 및 지원과 지침 제공 중요
제약산업에서 신약 개발에 첨병으로 떠오르고 있는 AI에 대한 규제가 유럽시장을 중심으로 이뤄지고 있어 주목된다.
유럽연합 인공지능법으로 AI 시스템에 대한 규제가 시행되고 있는 가운데 △엄격한 규제가 혁신을 규제하지 않도록 균형 유지 △각국의 규제기관 간 긴미한 협력과 조정을 통한 규제의 일관성 유지 및 효율적 집행 △기업들이 규제에 적응할 수 있도록 충분한 지원과 지침 제공 등이 필요하다는 제안이 나와 주목된다.
한국보건산업진흥원이 발간하는 글로벌 보건산업동향 54호는 '유럽연합 AI 시스템 규정과 의료산업 전망'을 주제로 한 리포트를 통해 "유럽연합은 AI 기술을 규제하는 세계 최초 포괄적인 AI 규정(Regulation (EU) 2024, 1689)을 최근 제정했다"면서 "주요 내용으로 AI에 대한 인공지능 시스템의 개발, 배포 및 사용과 관련된 전반적인 사항에 대해 규정하고 있다"고 밝혔다.
보고서에 따르면 AI 규정은 AI 시스템의 위험 수준에 맞춰 △허용할 수 없는 위험(Unacceptable Risk) △고위험(High Risk) △제한적 위험(Limited Risk) △최소 위험(Minimal Risk) 등으로 분류했다.
최근 유럽에서 AI 시스템을 의료기기 업체가 제공하는 경우 의료기기 규정에 따라 통제 가능에 대한 요구가 잇따르고 있으며 의무적으로 기록을 문서화하고 있다.
리포트는 "위험관리도 새로운 규정에 맞게 재구성되어야 하며, EU 의료기기 규정이 주로 안전에 초점을 맞췄던 반면, AI 법안은 개인의 기본 권리를 보호하는 데 중점을 두고 있다"면서 "특히 중소기업들은 EU 의료기기 규정 외에 추가적인 통제 및 품질을 보증하는 동시에 추가적인 인증 절차를 진행하고 있다"고 전했다.
그러면서 "고위험 AI 시스템 제조업체는 AI 법안에 따라 특정 적합성 평가 절차를 거쳐야하기 때문에, 기존 적합성평가와 달리 인증기관의 업무 가중이 예상되며, 이는 지연 및 비용부담을 초래할 수 있다"면서 "AI 규정은 AI 시스템을 사용하는 모든 사람에게 책임을 부과하고 있다"고 설명했다.
이에 따라 유럽에서 AI 배포자는 △AI 시스템이 지침에 따라 제공되도록 적절한 기술적 및 조직적 조치 △유능하고 훈련된 사람들의 감독 지원 △모니터링 및 감시 △시스템 로그가 제어 하에 있는 경우 유지 관리 △데이터 보호 영향평가를 실시 등이 요구되고 있다.
리포트는 제약분야에서 AI 시스템 규정이 미치는 영향력에 대해 "약물개발부터 임상시험 모집, 시판 후 활동까지, 의약품 수명주기 전반에 걸쳐 AI 시스템과 모델의 사용과 개발이 점점 더 늘어나고 있다"면서 "AI 시스템 중 다수는 계획된 의료 목적이 없거나 AI법에 따라 고위험으로 지정되지 않았기 때문에 의료 기기가 될 가능성이 낮아, 시스템 제공자에게 충분한 AI에 대한 투명성과 안전성 요건만 부과한다"고 설명했다.
이어 "유럽연합 인공지능법으로 인한 AI 시스템에 대한 규제가 성공적으로 정착하고 목표한 바를 이루기 위해서는 엄격한 규제가 혁신을 저해하지 않도록 균형 유지해야 한다"면서 "각국의 규제기관 간 긴밀한 협력과 조정을 통한 규제의 일관성 유지 및 효율적 집행이 필요하다"고 제언했다.
이어 "기업들이 규제에 적응할 수 있도록 충분한 지원과 지침 제공해야 한다"면서 "이러한 과제들을 해결한다면, 유럽연합 인공지능법은 AI 기술이 안전하고 책임감 있게 발전할 수 있는 토대를 마련할 것"이라고 내다봤다.
