AI 인증제도 - ISO/IEC 42001, TTA CAT

SSunny 24.05.13

7,944 7 0

facebook twitter kakao link

7 0

facebook twitter kakao link

DEVOTEE 요약: ISO/IEC 42001은 조직이 책임감 있게 AI 시스템을 개발하고 운영할 수 있도록 설계된 국제 표준입니다. 이는 윤리적 구현, 투명성, 책임성 등을 강조하며 위험 관리, 시스템 영향 평가 등을 포함한 여러 요소를 관리할 수 있도록 지원합니다. 반면, TTA의 인공지능 신뢰성 인증(CAT)은 ICT 및 관련 제품의 성능, 안전성, 호환성 평가에 중점을 두며, 기술적인 측면에 집중합니다.

DEVOTEE 추천 블로그

ISO/IEC 42001

ISO/IEC 42001은 인공지능 관리 시스템(AI Management Systems, AIMS)에 대한 국제 표준으로, 조직이 AI 시스템을 책임감 있게 개발하고 운영할 수 있도록 설계되었습니다.

이 표준은 조직이 AI 시스템의 전 생애 주기를 걸쳐 위험 관리, 시스템 영향 평가, 시스템 생명주기 관리 및 제3자 공급업체 관리 등을 포함한 여러 요소를 관리할 수 있도록 지원합니다.

특히 윤리적 구현, 투명성, 책임성을 강조하며, 지속적인 개선과 유지 관리를 요구합니다

ISO/IEC 42001 인증을 취득하기 위한 주요 요구사항 프로세스는 다음과 같은 구조를 따릅니다:

조직의 맥락 이해: 조직과 그 맥락을 이해하고, 관심 있는 이해관계자의 요구와 기대를 파악합니다.
AI 관리 시스템 정의: AI 관리 시스템의 범위를 정하고 시스템을 구축합니다.
- 4장. understanding the organization, its context, the needs, expectations of interested parties, determining the scope of the AI management system, AI management system.
리더십: 리더십의 헌신, AI 정책 설정, 역할 및 책임 분담을 통해 방향을 제시합니다.
- 5장. Leadership and commitment, AI policy, Role, responsibilies & authorities
계획: 위험과 기회에 대응하기 위한 조치를 계획하고, AI 목표 설정 및 달성 계획을 수립합니다.
- 6장. Actions to address risks and opportunities, AI objectives and planning to achieve them, planing of chagnes
지원: 자원 확보, 역량 강화, 인식 제고, 의사소통 강화, 문서화된 정보 관리를 포함합니다.
- 7장. resources, competence, awareness, communication, documented information
운영: 운영 계획과 통제, AI 위험 평가 및 처리, AI 시스템 영향 평가를 수행합니다.
- 8장. operational planning and control, ai risk assessment, ai risk treatment, ai system impact assessment
성과 평가: 모니터링, 측정, 분석, 평가, 내부 감사, 경영 리뷰를 포함합니다.
- 9장. monitoring, measurement, analysis, evaluation, inernal audit, management review
개선: 지속적인 개선 추구 및 비준수 사항과 교정 조치를 관리합니다.
- 10장. continual improvement, nonconformity, corrective action

이 프로세스는 조직이 AI 시스템을 체계적으로 관리하고 지속적으로 개선할 수 있도록 설계되었습니다.

TTA 신뢰성 인증 CAT

TTA(한국정보통신기술협회) 의 ‘인공지능 신뢰성 인증(CAT; Certification of Artificial Intelligence)’은 주로 ICT 및 관련 제품의 성능, 안전성, 호환성을 평가하는 데 중점을 둡니다.

이 인증은 제품이 사용자와 시장의 요구사항을 충족하는지를 검증하며, 주로 하드웨어 및 소프트웨어 테스트를 포함하여 기술적인 측면에 집중합니다.

TTA 인증은 제품이 특정 기준이나 요구사항을 만족하는지를 평가하여, 제품의 신뢰성을 보증하는 데 목적이 있습니다.

인공지능 서비스 구성 요소

대상	신뢰성 확보 방안
인공지능 학습용 데이터	인공지능 학습 및 추론 과정에 활용하는 데이터를 대상으로 편향성 및 공평성 등이 배제여부 검증
인공지능 모델 및 알고리즘	인공지능이 모델 및 알고리즘에 따라 안전한 결과를 도출하며, 이에 대한 설명이 가능한지, 악의적인 공격에 강건한지 등을 검증
인공지능 시스템	인공지능 모델 및 알고리즘이 적용된 전체 시스템을 대상으로 인공지능이 추론한 대로 작동하는지, 인공지능이 잘못 추론한 경우의 대책이 존재하는지 등을 검증
사람-인공지능 인터페이스	인공지능 시스템 사용자･운영자 등이 인공지능 시스템의 동작을 쉽게 이해할 수 있으며, 인공지능의 오작동 시 사람에게 알리거나 제어권을 이양여부 등을 검증

인공지능 서비스 생명주기별 주요 활동

생명주기 단계	주요 활동
1. 계획 및 설계	• 인공지능 시스템 관리 감독 조직 및 방안 마련
	• 인공지능 시스템 위험요소 분석 및 대응 방안 마련
2. 데이터 수집 및 처리	• 데이터 품질 확보, 데이터 사용자의 이해를 위한 정보 제공 방안 마련
	• 데이터 라벨링 및 데이터셋 특성feature 문서화
	• 인공지능 모델 구축을 위한 데이터셋 마련
3. 인공지능 모델 개발	• 비즈니스 목적에 따른 인공지능 모델 구현
	• 구현된 인공지능 모델 확인 및 검증
	• 인공지능 모델 튜닝, 데이터 분석, 추가로 필요한 데이터 수집
	• 인공지능 모델에 대한 성능평가
4. 시스템 구현	• 문제 발생 대비 안전모드 구현 및 알림 절차 수립
	• 인공지능 시스템 검증 및 사용자 설명에 대한 평가
5. 운영 및 모니터링	• 시스템 모니터링 및 인공지능 모델 재학습을 통한 성능 보장
	• 모델 편향 탐지, 공평성, 설명가능성 등 시스템 신뢰성 모니터링
	• 치명적 문제 발생 시 해결 방안 마련

인공지능 신뢰성 요건

신뢰성 요건	정의
다양성 존중	인공지능이 특정 개인이나 그룹에 대한 차별적이고 편향된 관행을 학습하거나 결과를 출력하지 않으며, 인종･성별･연령 등과 같은 특성과 관계없이 모든 사람이 평등하게 인공지능 기술의 혜택을 받을 수 있는 것
	• 관련 속성: 공평성･공정성, 정당성justice
	• 관련 키워드: 편향bias, 차별discrimination, 편견prejudice, 다양성diversity, 평등equality
책임성	인공지능이 생명주기 전반에 걸쳐 추론 결과에 대한 책임을 보장하기 위한 메커니즘이 마련되어 있는 것
	• 관련 속성: 책무성responsibility, 감사가능성auditability, 답변가능성answerability
	• 관련 키워드: 책임liability
안전성	• 인공지능이 인간의 생명･건강･재산 또는 환경을 해치지 않으며, 공격 및 보안 위협 등 다양한 위험에 대한 관리 대책이 마련되어 있 것
	• 관련 속성: 보안성security, 강건성･견고성robustness, 성능보장성reliability, 통제가능성･제어가능성controllability
	• 관련 키워드: 적대적 공격adversarial attack, 복원력resilience, 프라이버시privacy
투명성	인공지능이 추론한 결과를 인간이 이해하고 추적할 수 있으며, 인공지능이 추론한 결과임을 알 수 있는 것
	• 관련 속성: 설명가능성, 이해가능성understandability, 추적가능성traceability, 해석가능성interpretability
	• 관련 키워드: 설명가능한 인공지능XAI, eXplainable AI, 이해도comprehensibility