Clause 5
위험관리 프레임워크 (Framework)
조직 내 인공지능 위험관리를 위한 체계를 구축하고 이를 전사적으로 통합하며 지속적으로 개선하는 활동을 포함합니다.
주요 요구사항
- 최고 경영진의 리더십과 헌신(Leadership and commitment) 입증
- 조직 내 위험관리 프로세스의 통합(Integration) 및 설계
- 프레임워크의 효과성 평가 및 지속적인 개선(Improvement)
프레임워크 가이드
ISO/IEC 23894
인공지능(제품·서비스) - 위험 관리 가이드라인. AI 시스템의 설계부터 개발, 배포, 폐기까지 전 생애 주기에 걸쳐 발생할 수 있는 잠재적 위험을 체계적으로 관리하기 위한 프레임워크와 프로세스를 제공합니다.
ISO/IEC 23894 개요
ISO/IEC 23894는 조직이 AI 제품 및 서비스를 제공할 때 발생할 수 있는 위험을 효과적으로 관리하기 위한 구체적인 지침을 제공합니다. 위험관리 프레임워크(체계)와 리스크 식별, 분석, 평가, 처리를 포함한 위험관리 프로세스의 적절성을 평가합니다.
주요 조항
ISO/IEC 23894의 핵심 조항과 요구사항을 정리했습니다.
Clause 6
위험관리 프로세스 (Process)
제품·서비스 수명주기 전반에 걸쳐 위험을 식별, 분석, 평가하고 적절한 처리 방안을 수립하여 시행하는 절차입니다.
주요 요구사항
- 위험진단 3단계(식별, 분석, 평가)의 체계적 수행
- 공정성, 강건성, 안전성에 대한 기술적 측정 및 기능 시험
- 의사소통 및 협의, 지속적인 모니터링과 기록 활동
Goals
핵심 위험 관리 목표
ISO/IEC 23894에서 요구하는 신뢰할 수 있는 AI를 위한 11가지 핵심 가치입니다.
주요 요구사항
- 책무성, 개인정보보호, 투명성 및 설명가능성 확보
- AI 전문가 참여 및 훈련/시험 데이터의 품질 보장
- 보안성(적대적 공격 대응), 유지보수성, 환경 영향 고려