AI Governance Framework

SSunny 24.12.20

5,775 4 1

facebook twitter kakao link

4 1

facebook twitter kakao link

DEVOTEE 요약: AI 거버넌스는 AI 기술의 투명성, 신뢰성, 및 윤리적 문제를 강화하기 위해 필요하며, 빅테크 기업들은 이를 위해 공정성, 투명성, 책임성 등의 원칙을 강조하고 있습니다. AI Governance Framework와 Responsible AI는 모두 AI의 안전하고 윤리적인 사용을 목표로 하나, Framework는 조직 내 구조와 절차, Responsible AI는 철학과 원칙에 중점을 둡니다. 또한 SKT와 같은 기업은 고객 데이터 관리와 윤리적 서비스 개발을 통해 사람 중심의 AI를 추구하는 등 각 회사별로 다양한 적용 사례가 존재합니다.

DEVOTEE 추천 블로그

AI 거버넌스의 필요성

최근 몇 년간, 인공지능(AI)은 다양한 산업과 분야에서 그 중요성과 활용도가 급격히 증가하고 있습니다. 하지만 AI의 도입에는 다양한 도전과제가 따릅니다.

주요 도전 과제 중 하나는 AI 기술의 투명성, 신뢰성 및 윤리적 문제를 해결하기 위한 거버넌스 강화입니다.

퍼플리시티의 도움으로 빅테크 기업의 AI 거버넌스를 비교하면 아래와 같습니다.

Company Name	AI Governance 원칙	Governance Mechanisms	주목할만한 이니셔티브
Google	fairness, accountability, transparency, privacy11	ethics reviews, risk assessment frameworks, centralized operations team for AI principles implementation12	Secure AI Framework (SAIF)13
Microsoft	fairness, reliability and safety, privacy and security, inclusiveness, transparency, accountability14	AETHER initiative, Office of Responsible AI, working groups of AI experts and stakeholders15	AI4Democracy initiative, establishment of the Office of Responsible AI16
Amazon	fairness, explainability, privacy and security, safety, controllability, veracity and robustness, governance, transparency17	defining governance goals, developing policies and guidelines, monitoring AI systems for compliance and performance18	Amazon SageMaker Data and AI Governance, commitment to White House Voluntary AI Commitments, participation in UK AI Safety Summit19
Meta	accountability, transparency, fairness20	Oversight Board, Community Forums21	AI Alliance, Centre for Generative AI with IIT Jodhpur22
IBM	transparency, explainability, accountability23	AI Ethics Board, watsonx.governance toolkit24	watsonx.governance25

클라우드 시스템을 운영하는 구글, MS, 아마존은 security에 초점을 둔 모습입니다.

빅테크 기업의 AI 원칙에서 공통된 항목은 다음과 같습니다.

공정성(Fairness): AI 시스템은 편견 없이 공정하게 작동해야 합니다. 공정성과 포용성은 편견을 피하고 공평하고 공정하며 공평한 결정을 내리는 방식으로 AI 시스템을 설계하고 운영하여 포용성과 평등을 증진하는 것을 포함합니다. 이 원칙은 AI 기반 의사 결정에서 차별적인 결과를 방지하여 AI 기술이 사회의 모든 부문에 동등하게 혜택을 줄 수 있도록 하는 것을 목표로 합니다.
투명성(Transparency): AI 시스템의 작동 방식과 의사결정 과정이 투명해야 합니다. 투명성이란 AI 시스템의 작동을 공개하고 접근 가능하도록 만드는 것입니다. 이는 AI 모델이 개발, 배포, 사용되는 방식에 대한 인사이트를 명확하고 공개적으로 공유하여 신뢰와 개방의 환경을 조성하는 것을 의미합니다.
보안(Security): AI 시스템은 외부 공격으로부터 안전해야 합니다. 보안은 AI 시스템을 침해와 무단 액세스로부터 보호하는 데 매우 중요합니다. 여기에는 다양한 공격으로부터 AI 시스템과 지원 인프라 및 데이터 입력을 강화하고 데이터와 시스템 모두의 기밀성, 무결성 및 가용성을 보호하는 것이 포함됩니다.
책임성(Accountability): AI 시스템의 결과에 대한 책임 소재가 명확해야 합니다. 책임성이란 AI 시스템이 취한 행동에 대한 명확한 책임 귀속이 있음을 의미합니다. 문제가 발생하면 문제를 해결하고 편견이나 의도하지 않은 결과를 완화하며 법적 및 윤리적 책임을 명확히 정의하고 준수할 수 있는 프로세스가 마련되어 있어야 합니다.
안전성(Safety): AI 시스템은 사용자와 사회에 해를 끼치지 않아야 합니다. AI 시스템은 모든 사용자의 안전과 복지를 보장하는 방식으로 설계 및 배포되어야 합니다. 여기에는 AI가 인권과 안전에 초점을 맞추고 이를 존중하여 설계되었는지 테스트하고 검증하여 AI가 인간에게 유익한 방식으로 작동하도록 보장하는 것이 포함됩니다.
설명 가능성(Explainability): AI 시스템의 결정 과정을 이해하고 설명할 수 있어야 합니다. 설명가능성이란 사람들이 특정 결정을 내리는 이유를 이해할 수 있도록 AI 시스템을 설계하는 것을 의미합니다. 여기에는 AI 시스템의 내부 작동 방식과 입력 데이터를 사용하여 결론에 도달하는 방식이 명확하고 따라하기 쉬워야 하며, 이를 통해 AI의 솔루션이 도출된 요인을 이해할 수 있어야 합니다.

그 외에도 AI 원칙에는 아래 항목들이 있습니다.

재현성(Reproducibility): 재현성이란 동일한 조건에서 AI 시스템이 생성한 결과를 재현할 수 있는 능력을 말합니다. 이 원칙은 AI 기술의 신뢰성과 정확성을 검증하는 데 필수적이며, 다른 연구자와 실무자가 연구 결과를 검증하고 이전 작업을 기반으로 구축할 수 있게 해줍니다.
견고성(Robustness): 견고성이란 AI 시스템과 규제 프레임워크가 변조와 조작을 견딜 수 있도록 개발하여 예상치 못한 어려운 조건에서도 안정적이고 효과적인 작동을 유지하도록 보장하는 것을 의미합니다.
데이터 거버넌스(Data governance): 데이터 거버넌스란 시스템과 데이터의 무결성을 손상시킬 수 있는 잠재적 위험으로부터 개인 데이터를 보호하고 데이터 프라이버시를 유지하는 것을 말합니다. 즉, AI 시스템은 데이터 보호 및 보안 문제를 고려하여 설계 및 개발되어야 하며, "이 모델을 학습시키는 데 어떤 데이터가 사용되었습니까?"와 같은 질문에 빠르게 답변할 수 있는 동시에 민감한 정보 및 PII를 보호할 수 있어야 합니다.

프로세스 기반 AI 거버넌스 예시

AI Governance Framework와 AI Sovereign

AI 소버린과 AI 거버넌스는 모두 AI 기술의 책임 있는 개발과 사용을 목표로 하지만, 그 접근 방식에서 차이가 있습니다.

AI 거버넌스가 보편적인 윤리 원칙을 강조한다면, AI 소버린은 국가나 조직의 독립성과 자율성에 초점을 맞춥니다.

AI Sovereign은 국가의 독립적인 AI 능력을 강조합니다:

목적: 국가의 자율성과 기술 독립성 확보
범위: 국가 수준의 AI 개발 및 배포
주요 특징:
- 자국의 인프라, 데이터, 인력을 활용한 AI 개발
- 국가의 문화, 정책, 가치를 반영한 AI 시스템 구축
- 데이터 주권과 국가 안보 강화

가장 큰 특징은 데이터 관리의 차이입니다.

데이터 관리에 대한 데이터 프라이버시와 공정한 사용에 중점 관리는 동일한 요소인데 AI Sovereign는 국가의 기술 독립성과 문화적 정체성을 중심으로 국가 내 데이터 보관 및 처리 강조합니다.

AI Governance Framework와 Responsible AI

전에 블로그에 작성한 responsible AI와는 어떤 차이가 있는지 궁금해집니다.

둘다 AI 기술의 윤리적이고 안전한 사용을 위한 개념이지만, 그 범위와 초점에 차이가 있습니다.

Responsible AI는 AI의 윤리적 사용에 대한 전반적인 철학과 원칙을 제공하는 반면, AI Governance Framework는 이러한 원칙을 조직 내에서 실행하기 위한 구체적인 구조와 절차를 제공합니다.

두 개념은 상호 보완적이며, 함께 작용하여 AI 기술의 책임 있는 개발과 사용을 보장합니다.

Responsible AI는 AI의 윤리적이고 책임있는 개발과 사용에 중점을 둡니다:

목적: AI 시스템의 안전성, 신뢰성, 윤리성 보장
범위: 조직 및 개발자 수준의 AI 개발 및 사용
주요 특징:
- 공정성, 투명성, 설명 가능성 강조
- 인간 중심적 접근 방식
- 프라이버시 보호 및 편견 방지

KPMG AI 거버넌스 예시

KPMG 보고서는 AI 거버넌스를 효과적으로 구현하기 위한 몇 가지 모델을 제안합니다.

이들 모델은 각 조직의 특성과 목적에 맞게 조정될 수 있습니다.

프로세스와 원칙 혼합형태 예시

거버넌스 프레임워크 설정: 조직의 목표에 맞게 설계된 정책 및 절차를 통해 AI 도입을 체계적으로 관리합니다.
위험 관리: AI 기술 도입 시 발생할 수 있는 다양한 위험 요소를 사전에 인지하고 대응 전략을 수립합니다.
투명성 및 책임성: AI 시스템의 결정 과정 및 결과에 대해 명확하게 설명할 수 있도록 투명성을 확보하고, 각 단계별 책임을 명확히 합니다.

SKT 거버넌스 예시

THEAI

SKT의 AI거버넌스 기본 원칙인 ‘T.H.E. AI’ 는 ‘by Telco, for Humanity, with Ethics AI’를 줄인 말입니다.

통신기술 기반(by Telco) 행동규범: 이동통신 사업(Telco)에서 축적된 고객 데이터 관리 노하우를 다양한 AI 기술 서비스에 적용, 고객에게 ‘안전’하고 ‘신뢰’할 수 있는 AI 서비스를 제공하고 이를 위해 고객과의 적극적인 소통을 지속하는 것.
사람을 향한(for Humanity) 행동규범: AI 기술이 모든 고객에게 편향 없이 작동하여 디지털 약자가 발생하지 않도록 하며, 이를 통해 교육, 건강, 고용 등 다양한 분야의 사회 문제 해결에 도움이 될 수 있도록 사람 중심의 AI 서비스 환경을 구축한다는 것.
윤리적 가치 중심(with Ethics) 행동규범: AI기술에 비차별·비폭력 가치가 적극 적용될 수 있도록 관련 서비스 개발 및 운영 전반에 대한 구체적인 기준을 마련하는 등의 실천을 통해 사람 중심의 AI를 추구한다는 것.