프레임워크 비교
EU AI Act
AI 시스템을 리스크 수준(최소, 제한, 고위험, 허용 불가)별로 분류하고 해당 준수 의무를 부여하는 EU 규정
라이브러리 목록
KAIC-1과의 연계
- 최소 및 제한 리스크 시스템에 대한 준수 지원
- 특정 통제 활동 충족 시 고위험 시스템에 대한 준수 지원
- 부속서 VI에서 요구하는 고위험 시스템의 내부 적합성 평가를 위한 문서 제공
EU AI Act 개요
EU 인공지능법(EU AI Act)은 AI 시스템을 리스크 수준별로 분류하고 해당하는 준수 의무를 부여하는 EU 규정입니다.
KAIC-1 인증은 EU AI Act 준수를 위한 강력한 단계입니다:
- 최소 및 제한 리스크 시스템에 대한 준수 가능
- 특정 통제 활동 충족 시 고위험 시스템에 대한 준수 가능 (KAIC가 AI 기업을 안내)
- 부속서 VI에서 요구하는 고위험 시스템의 내부 적합성 평가를 위한 문서 제공
크로스워크
EU AI Act 요구사항과 KAIC-1 요구사항의 매핑을 확인하세요.
Article 9
리스크 관리 시스템
EU AI Act는 고위험 AI 시스템에 대한 리스크 관리 시스템을 요구합니다. 이 시스템은 AI의 수명주기 전반에 걸쳐 지속적인 프로세스여야 하며, 정기적으로 검토 및 업데이트되어야 합니다.
주요 요구사항
- 건강, 안전 또는 기본권에 대한 잠재적 리스크 식별 및 분석
- 리스크 추정 및 평가
- 리스크 관리 조치 채택
- 18세 미만 또는 취약 계층에 대한 부정적 영향 고려
KAIC-1 매핑
Article 10
데이터 및 데이터 거버넌스
고위험 AI 시스템은 훈련, 검증 및 테스트를 위한 고품질 데이터 세트를 사용하여 개발되어야 합니다.
주요 요구사항
- 데이터 수집 프로세스 고려
- 잠재적 편향 및 데이터 격차 관리
- 관련성, 대표성, 오류 없음, 완전성 보장
- 특정 사용 맥락 고려
KAIC-1 매핑
Article 11
기술 문서
고위험 AI 시스템 출시 전에 상세한 기술 문서를 준비하고 최신 상태로 유지해야 합니다.
주요 요구사항
- AI 시스템이 법률 요구사항을 충족함을 입증
- 당국의 준수 확인을 위한 명확한 정보 제공
- 주요 요소 포함
- 중소기업을 위한 간소화된 양식 제공
KAIC-1 매핑
Article 12
기록 보관
고위험 AI 시스템은 수명 기간 동안 이벤트를 자동으로 기록할 수 있어야 합니다.
주요 요구사항
- 시스템 작업 추적 가능성 보장
- 사용 시기, 확인된 데이터베이스, 일치 데이터 기록
- 결과 검증자 식별
- 책임성 및 안전성 보장
KAIC-1 매핑
Article 13
투명성 및 배포자에게 정보 제공
고위험 AI 시스템은 투명하게 설계되어야 하며, 사용자가 올바르게 이해하고 사용할 수 있어야 합니다.
주요 요구사항
- 명확한 사용 지침 제공
- 시스템 기능 및 한계 설명
- 잠재적 리스크 설명
- 출력 해석 방법 설명
KAIC-1 매핑
Article 14
인간 감독
고위험 AI 시스템은 인간이 효과적으로 감독할 수 있도록 설계되어야 합니다.
주요 요구사항
- 건강, 안전 또는 기본권에 대한 리스크 방지 또는 최소화
- 시스템 기능 및 한계 이해
- 문제 감지 및 해결
- 과도한 의존 방지
KAIC-1 매핑
Article 15
정확성, 견고성 및 사이버 보안
고위험 AI 시스템은 정확하고 견고하며 안전하게 설계되어야 합니다.
주요 요구사항
- 수명주기 전반에 걸쳐 일관된 성능
- 오류 및 결함에 대한 복원력
- 백업 계획 마련
- 편향된 출력 리스크 감소
- 무단 제3자의 취약점 악용 방지
KAIC-1 매핑
Article 16
고위험 AI 시스템 제공자의 의무
고위험 AI 시스템을 제공하는 기업은 특정 규칙을 따라야 합니다.
주요 요구사항
- AI 시스템이 특정 표준 충족 보장
- 제품에 연락처 정보 표시
- 품질 관리 시스템 보유
- 규정 준수 확인
- CE 마킹 표시
KAIC-1 매핑
Article 17
품질 관리 시스템
고위험 AI 시스템 제공자는 품질 관리 시스템을 구축해야 합니다.
주요 요구사항
- 규제 준수 전략
- 설계 및 개발 절차
- 테스트 및 검증 프로세스
- 기술 사양
- 데이터 관리 시스템
- 리스크 관리
- 시판 후 모니터링
- 사고 보고
- 책임 프레임워크