Article 9
리스크 관리 시스템
EU AI Act는 고위험 AI 시스템에 대한 리스크 관리 시스템을 요구합니다. 이 시스템은 AI의 수명주기 전반에 걸쳐 지속적인 프로세스여야 하며, 정기적으로 검토 및 업데이트되어야 합니다.
주요 요구사항
- 건강, 안전 또는 기본권에 대한 잠재적 리스크 식별 및 분석
- 리스크 추정 및 평가
- 리스크 관리 조치 채택
- 18세 미만 또는 취약 계층에 대한 부정적 영향 고려
프레임워크 가이드
EU AI Act
AI 시스템을 리스크 수준(최소, 제한, 고위험, 허용 불가)별로 분류하고 해당 준수 의무를 부여하는 EU 규정
EU AI Act 개요
EU 인공지능법(EU AI Act)은 AI 시스템을 리스크 수준별로 분류하고 해당하는 준수 의무를 부여하는 EU 규정입니다. 2025년 2월부터 금지 관행 규정이, 2025년 8월부터 범용 AI(GPAI) 의무가 적용되고 있습니다. 2026년 6월 EU 의회와 이사회가 채택한 Digital Omnibus 개정에 따라 부속서 III 고위험 시스템 의무는 2027년 12월 2일로, 부속서 I 내장형 제품의 의무는 2028년 8월 2일로 연기되었으며, 제50조 투명성 의무는 예정대로 2026년 8월 2일부터 적용됩니다. 다만 그 이전에 이미 출시된 시스템의 AI 생성 콘텐츠 표시(마킹) 의무는 2026년 12월 2일까지 유예됩니다.
주요 조항
EU AI Act의 핵심 조항과 요구사항을 정리했습니다.
Article 10
데이터 및 데이터 거버넌스
고위험 AI 시스템은 훈련, 검증 및 테스트를 위한 고품질 데이터 세트를 사용하여 개발되어야 합니다.
주요 요구사항
- 데이터 수집 프로세스 고려
- 잠재적 편향 및 데이터 격차 관리
- 관련성, 대표성, 오류 없음, 완전성 보장
- 특정 사용 맥락 고려
Article 11
기술 문서
고위험 AI 시스템 출시 전에 상세한 기술 문서를 준비하고 최신 상태로 유지해야 합니다.
주요 요구사항
- AI 시스템이 법률 요구사항을 충족함을 입증
- 당국의 준수 확인을 위한 명확한 정보 제공
- 주요 요소 포함
- 중소기업을 위한 간소화된 양식 제공
Article 12
기록 보관
고위험 AI 시스템은 수명 기간 동안 이벤트를 자동으로 기록할 수 있어야 합니다.
주요 요구사항
- 시스템 작업 추적 가능성 보장
- 사용 시기, 확인된 데이터베이스, 일치 데이터 기록
- 결과 검증자 식별
- 책임성 및 안전성 보장
Article 13
투명성 및 배포자에게 정보 제공
고위험 AI 시스템은 투명하게 설계되어야 하며, 사용자가 올바르게 이해하고 사용할 수 있어야 합니다.
주요 요구사항
- 명확한 사용 지침 제공
- 시스템 기능 및 한계 설명
- 잠재적 리스크 설명
- 출력 해석 방법 설명
Article 14
인간 감독
고위험 AI 시스템은 인간이 효과적으로 감독할 수 있도록 설계되어야 합니다.
주요 요구사항
- 건강, 안전 또는 기본권에 대한 리스크 방지 또는 최소화
- 시스템 기능 및 한계 이해
- 문제 감지 및 해결
- 과도한 의존 방지
Article 15
정확성, 견고성 및 사이버 보안
고위험 AI 시스템은 정확하고 견고하며 안전하게 설계되어야 합니다.
주요 요구사항
- 수명주기 전반에 걸쳐 일관된 성능
- 오류 및 결함에 대한 복원력
- 백업 계획 마련
- 편향된 출력 리스크 감소
- 무단 제3자의 취약점 악용 방지
Article 16
고위험 AI 시스템 제공자의 의무
고위험 AI 시스템을 제공하는 기업은 특정 규칙을 따라야 합니다.
주요 요구사항
- AI 시스템이 특정 표준 충족 보장
- 제품에 연락처 정보 표시
- 품질 관리 시스템 보유
- 규정 준수 확인
- CE 마킹 표시
Article 17
품질 관리 시스템
고위험 AI 시스템 제공자는 품질 관리 시스템을 구축해야 합니다.
주요 요구사항
- 규제 준수 전략
- 설계 및 개발 절차
- 테스트 및 검증 프로세스
- 기술 사양
- 데이터 관리 시스템
- 리스크 관리
- 시판 후 모니터링
- 사고 보고
- 책임 프레임워크