유럽연합, 세계 최초 인공지능(AI) 규제법 시행

7월 16, 2024 - 09:58

유럽연합, 세계 최초 인공지능(AI) 규제법 시행 / 한국바이오협회 바이오경제연구센터 제공

유럽 집행위원회(EC)가 인공지능 규제법을 8월 2일부터 시행한다고 밝힘. 의료기기, 체외진단의료기기 등에도 적용되는 세계 최초의 인공지능 규제법임.

이 법은 세계 최초의 포괄적인 인공지능 규제법으로 인공지능 관련 제품이 EU 시장에 출시되기 위한 통일된 규칙을 정하고 있음. 올해 3월 13일 유럽의회에서 통과된 법의 내용이 수정없이 그대로 시행될 예정임.

유럽 집행위원회는 7월 12일 인공지능 규제법이 유럽연합 관보(Official Journal of the European Union)에 게재되었다고 밝힘. 인공지능 규제법은 유럽연합 관보에 게재된 날로부터 20일째 되는 날인 8월 2일부터 시행되며, 특정 챕터 및 조항에 적용되는 제품은 내년 8월 2일부터, 고위험 기기에 대한 요건은 2년 후인 2026년 8월 2일부터 적용됨.

이 법은 특히 유럽연합의 인공지능 시스템(AI 시스템)*의 개발, 시장 출시, 서비스 투입 및 사용을 위한 통일된 법적 틀을 마련하여 내부 시장의 기능을 개선하고, 높은 수준의 건강 보호를 보장하면서 인간 중심적이고 신뢰할 수 있는 인공지능(AI)의 활용을 촉진하기 위한 목적에서 제정됨. 제품을 시장에 출시하기 전의 연구 또는 테스트 활동에는 적용되지 않음.

* 인공지능 규제법 제3항(정의) : 'AI 시스템'은 다양한 수준의 자율성으로 작동하도록 설계되고, 배포 후 적응성을 나타낼 수 있고, 명시적 또는 암시적 목표를 위해 수신한 입력에서 물리적 또는 가상 환경에 영향을 줄 수 있는 예측, 콘텐츠, 권장 사항 또는 결정과 같은 결과물을 생성하는 방법을 추론할 수 있는 기계 기반 시스템을 의미함.

이 법의 적용 대상은 의료기기 및 체외진단의료기기(IVD) 외에도 폭발 가능성이 있는 환경에서 사용하도록 고안된 기계, 장난감, 리프트, 장비 및 보호 시스템, 무선 장비, 압력 장비, 레크리에이션 선박 장비, 케이블카 설치, 가스 연료를 연소하는 기기, 자동차 및 항공 제품을 포함하고 있음.

EU에 진출하고자 하는 인공지능 관련 의료기기 개발 기업 주의 필요

이 법 제2조 적용범위는 EU 내에 설립 또는 위치하는지 또는 제3국에 설립되었는지 여부와 관계없이 EU 내 AI 시스템을 시장에 출시하거나 서비스에 투입하거나 범용 AI 모델을 시장에 출시하는 제공업체에 적용된다고 규정하고 있음. 이에, EU에 법인이 없더라도 한국에서 개발해 EU에 수출하는 기업에도 적용됨.

글로벌 시장컨설팅 기업인 아이큐비아(IQVIA)의 최근 블로그 게시물에 따르면, 의료 분야에서 AI가 사용되는 많은 부분이 이 법에 따라 '고위험'으로 분류되어 여러 요구 사항이 적용될 것으로 전망됨.

그간 유럽의료기기산업협회(MedTech Europe)은 인공지능법이 기존 의료기기 및 체외진단의료기기 관련법과 충돌할 수 있다는 우려를 표명했으나, 유럽 규제기관과 보건당국은 인공지능법이 의료기기법과 호환(compatible)된다고 강조하고 있음.

의료기기 규정에 따라 Class IIa 범주 이상에 속하는 기기는 고위험으로 간주됨. 이 규정은 고위험 기기 제조업체가 제품 수명 주기 전반에 걸쳐 위험 관리 시스템을 구축하고, 데이터에 오류가 없음을 증명하기 위해 데이터 거버넌스를 수행하고, 제품이 이 법을 준수함을 증명하는 기술 문서를 제공해야 한다고 명시하고 있음. 이러한 제품의 제조업체는 규정 준수를 보장하기 위해 사용 지침을 제공하고 품질 관리 시스템을 구축해야 함.

또한 이 법에서는 생체 인식 데이터는 개인 데이터의 특수 범주를 구성하므로 관련 연합 및 국내법에 따라 사용이 허용되는 한 생체 인식 시스템의 몇 가지 중요한 사용 사례를 고위험으로 분류하는 것이 적절하다고 언급하고 있음. 자연인의 원격 생체 인식을 위한 AI 시스템의 기술적 부정확성은 편향된 결과를 초래하고 차별적인 영향을 수반할 수 있기 때문임. 이러한 편향된 결과와 차별적 영향의 위험은 특히 연령, 민족, 인종, 성별 또는 장애와 관련이 있으며 따라서 원격 생체인식 시스템은 위험을 고려하여 고위험으로 분류되어야 한다고 규정하고 있음.

<유럽연합 관보에 게재된 인공지능규제법(2024.7.12)>