2024년 8월 1일, 유럽 인공지능법(AI Act)이 발효되었다. 이 법은 EU 내에서 인공지능 기술의 개발과 사용에 대한 규제를 강화하기 위해 만들어졌으며, 전 세계적으로 최초의 포괄적인 AI 규제 법안으로 주목받고 있다. AI 법은 2021년 4월 유럽 연합 집행위원회가 제안하고, 2023년 12월 유럽 의회와 이사회가 합의한 결과로 도입되었다. 이 법은 인간의 건강, 안전, 기본권에 대한 위험을 다루며, 개발자와 사용자에게 명확한 의무 사항을 제시하고 있다. 또한, 기업들이 직면할 행정적 및 재정적 부담을 줄이기 위한 방안도 포함하고 있다.

AI 법은 크게 네 가지 위험 수준을 다루고 있다. 첫째, 최소 위험(Minimal Risk)으로 분류되는 대부분의 AI 시스템은 법적 의무에서 제외되지만, 기업들은 자발적으로 추가 행동 강령을 채택할 수 있다. 둘째, 특정 투명성 위험(Specific Transparency Risk)에 해당하는 챗봇과 같은 시스템은 사용자에게 기계와의 상호작용을 명확히 알리고, AI 생성 콘텐츠임을 명시해야 한다. 셋째, 고위험(High Risk) AI 시스템은 의료 소프트웨어나 채용에 사용되는 경우처럼 엄격한 위험 완화 시스템, 고품질 데이터 사용, 사용자 정보 제공, 인간 감독 등 높은 기준을 준수해야 한다. 마지막으로, 허용 불가 위험(Unacceptable Risk)으로 분류되는 사회적 평가(소셜 스코어링)를 수행하는 AI 시스템은 금지된다.

EU는 이러한 규제를 통해 인권과 기본 가치를 보호하면서 모든 사람에게 이로운 AI 생태계를 조성하고자 한다. 최근에는 일반 목적 인공지능(GPAI) 모델 제공자를 위한 행동강령에 대한 협의를 시작했으며, 이 강령은 투명성, 저작권, 위험 관리 등을 다룰 예정이다. GPAI 관련 조항은 12개월 후 적용될 예정이며, 집행위원회는 2025년 4월까지 행동강령을 최종 확정할 계획이다. 이를 통해 AI 법 규칙의 시행과 감독을 담당할 AI 사무국의 작업에도 반영될 예정이다.



(출처: https://commission.europa.eu/news/ai-act-enters-force-2024-08-01_en)