법무법인(유) 화우

AI는 우리 삶을 획기적으로 개선하고 산업 혁신을 이끌어왔으나, 최근 생성형 AI의 급속한 보급으로 인한 사회적 문제가 개인정보, 인사/노무 등 다양한 분야에서 대두되고 있습니다. 이러한 문제에 대응하기 위해 전 세계 정부들이 AI 규제 체계 구축에 나서고 있는데, 대표적으로 유럽연합(EU)이 AI 기술의 혁신은 촉진하되 이로 인한 인권 침해 등 사회적 부작용을 방지하는 것을 목표로 2023년 8월 1일 세계 최초로 포괄적 AI 관련 법안인 EU AI Act를 발효시켰습니다.

AI 가 전방위적으로 확산됨에 따라, 규제 준수, 리스크 관리, 거버넌스 체계 구축이 필수적입니다. 이제 기업들은 AI 활용 방안을 고민하기에 앞서, 규제 대응 전략을 선제적으로 마련해야 하는 상황에 직면했습니다. 이러한 배경에서, AI 규제 동향 및 이로 인한 기업의 리스크를 파악하고, AI 거버넌스 구축 등 효과적인 대응 전략을 수립하는 것이 무엇보다 중요합니다.

1. 국내외 AI 규제 동향

2. AI 거버넌스 구축 필요성

3. AI 거버넌스 구축 프로세스

4. 시사점

1. 국내외 AI 규제 동향

<한국, AI 규제 논의 중>

한국의 AI 규제는 기술의 안전성과 공정성을 유지하면서도 산업 발전을 도모하는 방향으로 진행되고 있습니다. 한국은 2019년 12월 인공지능 국가전략 발표 이후, 2020년 12월 AI법, 제도 및 규제 개선 로드맵을 발표하고, 2023년 5월 디지털 권리장전을 제정하는 등 AI 규제 환경 조성에 적극적입니다. 2020년부터 AI 관련 법안이 꾸준히 발의되었으며, 2022년 발의된 AI 기본법은 폐기되었으나, 현재 아래 표와 같이 23개의 법령이 AI를 실질적으로 규율하고 있습니다. 22대 국회에서는 현재까지 10건의 AI 기본법 관련 법안이 발의되었습니다.

[인공지능에 관하여 규정하고 있는 국내 법령(직제 제외)]

(출처: 법제처 미래법제혁신기획단, 인공지능(AI) 관련 국내외 법제 동향, 2024)

<유럽연합(EU), 인공지능법(EU AI법) 발효>

EU는 AI 기술의 혁신은 촉진하되 이로 인한 인권 침해 등 사회적 부작용을 방지하는 것을 목표로 2023. 8. 1. EU AI법을 발효시키면서 세계 최초로 포괄적 AI 관련 법을 제정하였습니다. EU AI법은 위험 기반 접근 방식을 기반으로 AI의 잠재적 위험과 영향 수준에 따라 위험도를 4단계{1단계 최소 위험(Minimal risk), 2단계 투명성 위험(Specific transparency risk), 3단계 고위험(High risk), 4단계 허용 불가능한 위험(Unacceptable risk)}로 나누어 차등 규제하고 있으며, 법 위반시 최대 3,500만 유로 또는 전세계 연간 매출의 7%의 벌금을 부과하고 있습니다. 이는 유럽연합 내 모든 AI기업에 적용되며, 2026년 8월 2일부터 역내에서 활동하는 인공지능개발자에게 전면 적용될 예정입니다.

<중국, 생성형 AI 잠정 관리 방법 공표>

AI 특허 보유량 세계 1위인 중국은 국가 통제 하에 기술 혁신을 장려하는 방향으로 규제를 진행하고 있습니다. 이전에는 ‘인터넷 보안법’, ‘데이터보안법’, ‘개인정보보호법’, ‘인터넷 정보 서비스 알고리즘 추천 관리규정’ 등으로 AI 리스크를 관리해왔으나, 2023년 「생성형AI 잠정 관리 방법」을 통해 생성형 AI를 체계적으로 규제하기 시작했습니다. 중국의 생성형AI 서비스 관련 규정은 콘텐츠의 책임을 명확하게 명시하고 있으며, 생성형AI 서비스 제공자는 알고리즘 훈련 관련 의무, 콘텐츠 관리 의무, 사용자에 대한 의무를 준수해야 합니다.

<일본, AI 사업자 가이드라인 발표>

일본은 2024년 1월 인간 중심의 AI 사회 원칙에 따라, ①인간의 존엄성이 존중받는 사회(Dignity), ②다양한 배경의 사람들이 다양한 행복을 추구할 수 있는 사회(Diversity & Inclusion), ③지속가능한 사회
(Sustainability)를 실현하기 위한 「AI 사업자 가이드라인」을 발표하여 AI 개발자, 제공자, 사용자를 위한 10개 원칙을 제시하였습니다. 일본 정부는 AI 관리에 있어 개인정보보호법, 저작권법, 부정 경쟁 방지법 등 기존 법률을 활용하고 있습니다. 일본의 AI 규제는 법적 구속력은 없지만 사전 예방적 가이드라인을 제시하는 방식으로, 기술 규제보다는 발전을 촉진하는 방향으로 설정되어 있습니다.

2. AI 거버넌스 구축 필요성

AI 기술 발전은 기업 혁신의 핵심 동력이나, 법적∙윤리적 리스크를 수반합니다. EU AI 법 발효를 시작으로 전 세계적 AI 규제 강화가 예상됨에 따라 이에 대한 체계적 대응 전략 수립의 필요성도 커지고 있습니다. ‘AI 거버넌스’는 AI의 윤리적, 안전한, 책임있는 활용을 보장하기 위한 정책과 지침의 집합체로, AI의 설계부터 배포까지 전 과정을 관리하는 프레임워크인데, 이는 AI 규제 대응 전략의 핵심이라고 할 수 있습니다.

기업은 AI 거버넌스 구축을 통해 (i) 법적 리스크를 감소시키고, 컴플라이언스를 확보할 수 있으며, (ii) 신뢰성과 브랜드 가치를 제고함으로써 이해관계자의 신뢰를 확보할 수 있으며, (iii) AI 시스템의 성능을 개선하고, 효율성과 신뢰성을 보장함으로써 혁신 기회를 창출할 수 있고, (iv) 장기적으로 글로벌 시장에서의 경쟁력 또한 강화시킬 수 있습니다. 즉, AI 거버넌스가 체계적이고 명확하게 구축될 때, AI의 경쟁력을 강화하는 것은 물론 기업의 리스크 또한 효과적으로 관리할 수 있습니다.

3. AI 거버넌스 구축 프로세스

AI 거버넌스는 (1) 현황분석, (2) AI 거버넌스 체계 수립, (3) AI 거버넌스 실행방안 수립, (4) Poc 검증∙수행, (5) 개선 과제 및 로드맵 정의의 단계를 거쳐 구축될 수 있으며, 각 단계에서 수행되어야 할 주요 업무는 아래와 같이 정리할 수 있습니다¹.

기업은 위와 같은 프로세스를 통해 구축한 체계적인 거버넌스를 통해 AI 환경 변화에 대응하며 지속 가능한 발전을 이룰 수 있을 것입니다.

4. 시사점

각국의 규제 방향과 수준은 상이하지만, AI 기술의 안전성과 윤리성을 확보하면서도 혁신을 저해하지 않는다는 공통된 기조를 보이고 있습니다. 국내 기업들은 .EU AI법의 발효를 시작으로, 미국의 행정명령, 중국의 생성형 AI 규제, 일본의 가이드라인 수립 등 글로벌 AI 규제 강화 추세 및 한국의 AI 규제 논의 활성화에 대비하여 체계적인 대응 전략을 수립해야 할 것으로 보입니다.

이를 위해 먼저 기업들은 국내 AI 관련 법령과 더불어 주요국의 규제 동향을 지속적으로 모니터링하고 파악해야 합니다. 특히 국내 23개 AI 관련 법령과 지속적으로 발의되고 있는 AI 기본법 등의 변화에 주목하며, 글로벌 규제 흐름이 국내 법제화에 미칠 영향도 예측해야 할 것입니다.

AI 규제에 대한 대응전략으로서 기업들은 AI 거버넌스의 중요성을 인식하고 적극적으로 이를 구축해야 할 것입니다. AI 거버넌스는 단순한 규제 준수 차원을 넘어 기업의 새로운 경쟁력이 될 수 있습니다. 체계적인 AI 거버넌스 구축을 통해 기업은 법적 리스크 감소와 컴플라이언스 확보는 물론, 이해관계자의 신뢰 확보와 브랜드 가치 제고까지 실현할 수 있습니다.

특히 글로벌 시장에서 활동하는 기업들은 EU AI법과 같은 역외 규제까지 고려한 포괄적인 거버넌스 체계를 선제적으로 마련해야 합니다. 기업들은 현황분석부터 실행방안 수립, 검증 및 개선에 이르는 체계적인 프로세스를 통해 AI 거버넌스를 구축해야 하며, 이는 단기적으로는 비용으로 인식될 수 있으나, 장기적으로는 글로벌 시장에서의 경쟁우위를 확보하는 핵심 요소가 될 것입니다.

화우 AI센터는 AI와 관련한 지식재산, 개인정보, 정보보안, 공정거래, 제조물책임, 입법컨설팅, 쟁송 등 모든 법적 영역에서 축적된 경험과 노하우를 기반으로 기업 고객을 위한 최적의 솔루션을 안내해드리고있습니다. AI와 관련하여 문의사항이 있으신 경우 언제든지 화우에 연락하여 주시기 바랍니다.

 ¹ 딜로이트 인사이트, 인공지능(AI) 시대의 새로운 국면, AI 규제와 기업 리스크 관리 전략, 2024