이러한 표준 개발은 전기전자공학회(IEEE), 국제표준화기구(ISO) 등 국제기구가 주도하고 있다.
이 블로그에서는 주요 전 세계 AI 표준을 요약하고, 이것이 관행에 어떻게 영향을 미치는지 설명하며, 오늘날 AI 중심 세계에서 왜 중요한지 설명합니다 서보모터.
AI 표준의 역할:
AI 표준은 시스템 개발, 배포 및 거버넌스를 지시하는 프레임워크를 제공합니다. 이 지침의 목적은 다음과 같습니다.
- AI 애플리케이션의 보안, 신뢰성 및 안전성을 보장합니다.
- 편견으로부터 보호하고 사용자 개인정보를 보호하면서 도덕적 성장을 장려합니다.
- 다양한 개발자 또는 지리적으로 분산된 시스템 전반에 걸쳐 시스템 상호 운용성을 장려합니다.
- 투명하고 책임감 있고 설명 가능한 의사결정 규칙을 설정하세요.
AI 지침을 따르면 기업은 오류나 부도덕한 사용 가능성을 낮추는 동시에 고객 신뢰도를 높일 수 있습니다.
표준이 AI의 미래를 어떻게 형성하는가?
새로운 기술과 개발 중인 기술의 창출과 활용은 표준에 크게 의존합니다. AI 영역 내에서 “정확성”, “강건함”, “신뢰성” 및 “성능”과 같은 용어는 소비자와 기업이 신뢰할 수 있는 모델을 선택하는 데 도움이 되는 중요한 새로운 의미를 갖게 되었습니다. 결과적으로, 정책 입안자들은 필연적으로 높은 수준의 규정과 원칙을 실행하는 방법에 대한 지침을 얻기 위해 표준 생태계에 의존해야 합니다.
위험 관리 및 시스템에 대한 “인간 감독” 개념과 같은 AI 거버넌스 절차에 대한 통일된 정의를 제공하기 위해 표준을 사용하면 규제 요구 사항을 준수하는 것이 더 간단하고 빠릅니다.
이 블로그에서는 제품 수준의 규칙이나 통제가 포함된 표준과 조직 수준에서 권장 사항을 제공하는 표준 간의 대조를 구체적으로 조사합니다.
AI 표준의 유형:
조직 및 제품 수준 표준은 AI 표준이 속하는 두 가지 주요 범주입니다. AI 관리 시스템 인증의 관리 및 규제에서 각 그룹은 구체적이지만 관련된 기능을 수행합니다.
I. 조직 수준의 AI 표준
이러한 지침은 기업이 AI 기술의 생성, 사용 및 활용을 통제하기 위해 마련하는 광범위한 절차, 지침 및 관행에 중점을 두고 있습니다. 조직 수준의 표준은 다음과 같은 광범위한 주제를 다룰 수 있습니다.
-
- 책임 있는 AI 정책: 만들기에는 회사 내부에서 AI를 만들고 적용하기 위한 규칙과 규정을 마련하는 작업이 포함됩니다.
- 위험 관리: 이는 가능한 체계적 위험에 대한 위험 평가 및 완화 기술을 적용하는 것입니다.
- 투명성과 책임성: AI 의사 결정 프로세스에서 데이터 활용, 알고리즘 개방성, 설명 가능성 및 투명성을 보장하는 것은 투명성과 책임의 모든 측면입니다.
- 데이터 거버넌스: 인공 지능 수명 주기의 모든 단계에서 데이터 액세스, 보안, 개인 정보 보호 및 품질을 감독하기 위한 데이터 거버넌스용 프레임워크를 만듭니다.
- 훈련 및 교육: 책임 있는 데이터 관행, 책임 있는 가치 및 관련 법률에 대한 지침을 직원에게 제공합니다.
조직 수준의 ISO 42001 인증은 일반적으로 광범위하며 회사의 전체 거버넌스 구조를 지시하여 책임 있는 요소의 준수를 보장하기 위한 것입니다.
II. 제품 수준의 AI 표준
반면, 제품 수준 AI 표준은 특히 개별 AI 시스템의 생성, 평가 및 인증과 관련이 있습니다. 이 지침에는 다음에 대한 사양이 포함될 수 있습니다.
-
- 효율성과 정확성: 솔루션이 계획된 사용 사례에 대한 정확성 및 성능 요구 사항을 충족하는지 확인합니다.
- 안전성과 신뢰성: 다양한 시나리오에서 AI 시스템의 신뢰성을 보장하고 사람이나 환경에 해를 끼치지 않도록 안전 조치를 취합니다.
- 상호 운용성: 현재 표준 및 기술 준수와 다양한 시스템 간의 상호 운용성을 장려합니다.
- 보안 및 개인정보 보호: 데이터 침해, 불법 접근, 개인 정보 침해로부터 보호하기 위한 보안 조치가 포함됩니다.
AI 제품 수준의 표준은 품질, 안전 및 법적 요구 사항 준수를 보장하기 위해 시스템 엔지니어링 및 설계와 사용 사례에 중점을 두고 보다 기술적이고 전문화된 경우가 많습니다.
AI 표준에 대한 ISO의 기여
국제표준화기구(ISO)는 AI를 포함한 여러 부문에 걸쳐 표준을 제정하는 세계적인 선구자입니다. 현재 ISO는 기술 사양부터 도덕적 교훈까지 모든 것을 규제하는 일련의 표준을 개발하고 있습니다.
I. ISO/IEC 42001 – AI 관리 시스템:
가장 기다려지는 ISO 표준은 AI 관리 시스템에 관한 ISO/IEC 42001입니다. 이 표준은 기업이 품질 관리를 위한 ISO 9001 및 정보 보안 관리를 위한 ISO 27001과 유사한 활동을 관리하기 위한 공식적인 프레임워크를 구현하는 데 도움을 줄 것입니다.
ISO/IEC 42001에서 다루는 중요한 주제는 다음과 같습니다.
-
- 프로젝트 거버넌스 구조 생성.
- AI 위험을 제어하고 시스템 무결성을 보장합니다.
- 지속적인 감독, 개발 및 도덕적 준수를 위한 절차를 확립합니다.
조직은 ISO/IEC 42001을 구현하여 AI 시스템이 법적 표준 및 모범 사례를 준수하는지 확인할 수 있습니다.
II. ISO/IEC JTC 1/SC 42 – AI 소위원회:
분과위원회 42(SC42)는 특히 빅데이터와 인공지능을 다루기 위해 ISO의 JTC1(Joint Technical Committee 1)에 의해 설립되었습니다. SC 42는 여러 연결된 표준 개발 계획을 담당하고 있습니다.
SC 42에서 다루는 중요한 주제는 다음과 같습니다.
-
- AI 신뢰성: AI의 안전성, 신뢰성, 형평성을 보장하기 위한 표준입니다.
- AI의 윤리 및 거버넌스: 책임성, 투명성 및 윤리 프레임워크.
- 데이터 품질 및 편향: 고품질 데이터 입력을 보장하고 데이터 품질 및 편향에서 알고리즘 편향을 방지하기 위한 지침입니다.
- AI 위험 관리: AI와 관련된 위험을 찾아내고 줄이기 위한 절차를 확립하는 것입니다.
ISO/IEC JTC 1/SC 42 표준은 글로벌 표준을 준수하고 사용자와 규제 기관 모두에게 신뢰할 수 있는 윤리적인 AI 시스템을 만들려는 기업에 필수적입니다.
III. ISO/IEC 23894 – AI 위험 관리
ISO/IEC 23894 표준은 특히 시스템 위험 관리와 관련이 있습니다. 이 표준은 기업이 다음을 포함하여 AI와 관련된 위험을 인식, 평가 및 줄이는 데 도움이 됩니다.
-
- 데이터 개인 정보 보호 위험.
- 보안 위험을 초래하는 시스템의 약점.
- 편견이 있거나 부도덕한 AI 의사결정과 관련된 위험.
ISO/IEC 23894는 위험 관리에 대한 체계적인 접근 방식을 제공하여 솔루션에 대한 신뢰를 높여 기업이 실수나 남용으로 인한 부정적인 영향을 최소화하도록 돕습니다.
책임 있는 AI 개발을 위한 AI 표준 연결:
ISO 42001과 같은 조직 수준 표준은 일반적으로 범위가 포괄적이며 조직의 전체 AI 거버넌스 구조를 지시하여 법적 요구 사항 및 윤리적 문제를 준수하도록 보장합니다.
의료 기기의 위험 관리를 위한 ISO 14971에 더 부합하는 구조와 논리를 갖춘 제품 수준 표준은 특히 개별 AI 시스템의 생성, 평가 및 인증에 중점을 둡니다.
규정 준수를 위한 EU AI 법의 조직 요구 사항은 IEEE 7000 및 ISO 42001과 같은 국제 표준과 관련된 많은 특징을 가지고 있습니다. 여기에는 사람의 감독 통합, 철저한 기술 문서 유지 및 위험 관리 프레임워크 마련이 포함됩니다.
철저한 위험 관리를 보장하고 AI 위협을 효율적으로 감지 및 줄이기 위해 기업은 조직 및 제품 수준 모두에서 표준을 구현해야 합니다. 제품 수준의 향후 표준은 EU AI법과 같은 특정 법률을 준수하는 데 도움이 될 것입니다.
핵심 테이크아웃!!
AI는 앞으로도 기술에 계속 영향을 미칠 것이기 때문에 국제 표준을 따르는 것이 중요합니다. 책임 있는 프레임워크의 개발 및 구현은 IEEE 및 ISO와 같은 조직의 큰 지원을 받고 있습니다.
기업은 이러한 지침을 채택함으로써 위험으로부터 자신을 보호하고 도덕적이고 개방적이며 국제 표준을 준수하는 방식으로 AI 표준을 최대한 활용할 수 있습니다.