유럽 AI 규제법 통과

AI 규제법

 

AIA(AI ACT, AI 규제법)

 

지난달 유럽의회에서 세계에서 처음으로 AI 규제법(AI ACT)이 통과되었다.

AI가 초래할 수 있는 위험을 4개 등급으로 나누어서 규제하는 내용이다.

법안 내용을 살펴보면 AI가 초래할 수 있는 위험을 4단계로 분류하고 위험도에 따라 특정 기술을 원천 금지하거나 제한 없이 허용한다는 내용이다.

 

위험등급

 

위험등급은 용납 불가능한 위험, 고위험, 제한적 위험, 최소한의 위험 또는 위험 없음 4단계로 나누어진다.

용납 불가능한 위험

 

기본권과 자유의 위험을 초래하는 AI 시스템은 금지된다. 특정 집단을 차별하는 데 사용될 수 있는 사회적 점수 시스템을 만드는 데 사용되는 AI 시스템, 잘못된 정보를 퍼뜨리는 데 사용될 수 있는 딥페이크 생성 AI 시스템, 전력망이나 교통 시스템과 같은 중요 인프라를 제어하는 데 사용될 수 있는 승인되지 않은 AI 시스템 등이 포함된다.

이를 위반할 경우 최대 3500만 유로와 연간 세계 매출액의 7%에 해당하는 금액 중 더 큰 금액을 과징금으로 부과한다.

고위험

 

신용도 평가, 채용결정 AI시스템, 의료진단과 같은 의료, 교육, 고용, 금융, 도로교통, 전력공급 등 국가의 주요 시스템과 관련한 AI는 고위험 등급으로 분류된다. 이 경우 사람의 감독, 위험관리 시스템 구축 등 매우 높은 수준의 의무 요건을 지키는 경우에만 시장 출시나 서비스 제공이 가능하다.

이 의무 조항을 위반하면 최대 1500만 유로 또는 연간 세계 매출액의 3%에 해당하는 금액 중 더 큰 금액을 과징금으로 부과한다.

제한된 위험

 

책임 있는 AI 윤리원칙을 준수해야 한다. 고객 서비스를 제공하거나 질문 답변에 사용되는 AI 시스템, 개인화된 뉴스 피드 또는 제품 추천을 생성하는 데 사용되는 AI 시스템, 스마트 홈 기기를 제어하거나 게임을 플레이하는데 사용되는 AI 시스템 등이 포함된다.

최소한의 위험 또는 위험 없음

 

기본적 권리와 자유에 대한 위험이 최소거나 전혀 없는 AI 시스템은 특정 요건의 적용을 받지 않는다. 여기에는 스팸필터, 일기 예보 생성, 이미지 또는 동영상 처리, 고객이 광고를 클릭할 가능성 여부와 같은 간단한 예측을 수행하는 데 사용되는 AI 시스템이 포함된다.

 

중요포인트

 

중요한 것은 사람과 유사하거나 그 이상의 지능을 갖춘 AI를 개발하는 기업에 투명성 의무를 부과하기로 한 점과 AI 학습에 이용한 콘텐츠를 명시해야 한다는 점이다.

 

AI 학습콘텐츠 명시는 기업의 기밀과 연관된 사항일 수 있어서 기업들이 공개를 꺼리는 부분인데 유럽시장을 진출하려는 기업은 고민이 많아질 수 있는 부분이겠다. 또한 우리나라도 AI 제한 관련 법안에 포함될 가능성이 높은 부분이어서 주의 깊게 살펴보고 준비해야 할 부분일 듯하다.

 

AIA의 일부 금지조항은 법 발효 후 6개월부터 적용되며 이후 단계적으로 적용되어 2026년 이후에 전면 시행예정이다.

규정을 어길 시 기업은 세계 매출액의 1.5%에서 최대 7%에 해당하는 벌금을 내야 한다.

벌금이 어마어마한 편이다. 그만큼 인공지능의 가이드라인을 중요하게 생각한다는 것이다.

 

결론

 

AIA법안은 일단 EU에서만 적용되는 법이다. 다만 세계 최초의 관련 법안이므로 국제 AI규제의 이정표가 될 수 있다.

유럽을 선두로 미국, 중국 등 세계 주요 국가들도 법안을 준비하고 있다. 이후에 우리나라도 참고자료로 활용할 가능성이 높다. 

우리나라는 AI 법안이 아직 국회에서 계류 중이나 국회의원 선거도 끝났으므로 세계 흐름에 맞게 AI 규제에 대한 논의가 적극적으로 이루어 질듯 하다.

 

이제는 생활 곳곳에서 AI가 활용되는 시대이다. AI 활용이 많아지는 만큼 부작용도 많이 생긴다. 그러므로 규제도 필요하다.

AI 발전을 막지 않는 선에서 꼭 필요한 규제 법안이 마련되어 긍정적으로 활용되었으면 한다.