EU AI Act의 입법배경과 도입철학에 대한 검토

초록

EU AI 법은 세계 최초의 포괄적 AI 규제로, AI 시스템이 시민의 권리를 침해하지 않도록 하기 위해 엄격한 규제를 도입한 것이 핵심이다. EU AI 법은 AI 기술 발전에 따라 발생할 수 있는 윤리적, 사회적, 법적 문제를 해결하기 위해 도입되었다. 특히, AI 시스템이 인간의 존엄성을 보장하고 투명성, 안전성, 비차별성을 유지하도록 설계되었다. 법 제정의 중심에는 위험 기반 접근(risk-based approach)이 있으며, AI 시스템을 위험 수준에 따라 분류하고 이에 맞는 규제를 적용하고 있다. (i) 우선, 금지되는 AI 시스템으로서, 사회적 점수 매기기, 실시간 원격 생체 인식, 조작적 기술 등은 시민의 권리를 위협하거나 윤리적 문제를 야기할 수 있어 금지되고 있다. (ii) 고위험 AI 시스템으로서 의료, 교통, 법 집행 등 주요 분야에서 사용되는 AI는 높은 안전성과 투명성을 요구하며, 엄격한 요건을 충족해야만 사용이 허가된다. (iii) 범용 목적형 AI 모델 즉, ChatGPT와 같은 것에 대해서는 독자적인 규제가 추가되어, 기술문서 작성, 데이터 공개 등 의무가 부과되어 있다. EU AI 법의 도입 철학으로서는 다음을 들 수 있다. (i) 인간 중심 접근이다. AI 시스템이 인간의 의사결정을 대체하거나 침해하지 않도록 하고, AI를 인간의 복지를 증진하는 도구로 활용하고자 하고 있다. (ii) 투명성과 책임성의 강화이다. AI 시스템의 작동 원리를 설명 가능하게 만들어 사용자가 신뢰할 수 있도록 보장하고 있다. (iii) 글로벌 경쟁력 강화이다. 유럽 기업과 산업의 경쟁력을 높이고, AI 기술이 글로벌 무대에서 선도적 역할을 할 수 있도록 지원하고자 한다. 이 법은 AI 기술의 발전과 혁신을 촉진하면서도 안전성과 신뢰성을 보장하고, EU의 가치와 규범을 반영한 AI 시스템 보급을 목표로 하고 있다. 2026년부터 본격적으로 시행될 예정이며, 규제 위반 시 높은 수준의 벌금이 부과될 예정이다. EU AI 법은 인간의 기본권을 보호하면서도 AI 기술 발전을 촉진하기 위한 혁신적이고 포괄적인 규제 체계로, 글로벌 AI 규제의 표준이 될 가능성을 지니고 있다.

키워드