AI·SW 안전성 보장을 위하여
기존의 ISO/IEC 42001 AI 경영시스템 인증 및
데이터 분석, 데이터 모델 등의 시험을 포함한
인공지능 안전경영프로세스, 인공지능 안전수명주기,
인공지능 품질요구사항인 안전성 수준(AISL),
성능수준(AIPL), 공정성수준(AIFL)을 시험, 심사, 평가합니다.
국제적으로 AI·SW 안전성과 신뢰성을 제공하고자
AI·SW 안전성 확보에 특화된 국제표준과 AI 검증 가이드에 의거하여
3개 기관이 연합(FKII, TESTWORKS, KIWA)하여, 총 6개의 AI·SW 안전성 인증 제도를 운영합니다.
최근 안전과 관련된 산업분야(자동차, 로봇, 의료기기, 철도, 항공, 제조장치) 등에 사용되는 AI와 SW에서 인간에게 위협이 되는 동작을 일으키지 않도록 안전성이 확보된 알고리즘이나 정책의 중요성이 강화되고 있습니다.
AI 및 SW의 예기치 않은 오류나 취약점으로 인한 사고 방지와 위험 요소를 개선하고 안전성을 확보하기 위해 AI·SW의 안전성 인증은 필수적입니다.
-
경쟁력 강화
본 인증은 ISO 인증 규격에 맞추어 국제 규격에 부합하는 인증제도를 운영하여 국제적 경쟁력 및 타사와의 차별화 전략을 통한 기업 경쟁력을 강화할 수 있습니다.
-
안전성 검증
AI∙SW 안전성 인증을 통하여 기업은 자사 제품의 안전성을 입증하여 부가가치를 향상시키고, 고객은 안전성이 검증된 제품을 구매할 수 있습니다.
-
소비자 불만 감소
AI∙SW 안전성 인증을 통하여 오작동으로 소비자의 불만과 사고 감소로 가용성을 증가시킬 수 있습니다.
-
제품 및 기업 신뢰도 상승
인공지능의 안전성, 공정성, 투명성, 윤리성 확보로 신뢰할 수 있는 제품 보장 및 기업의 윤리적 책임과 사회적 신뢰도 향상에 기여할 수 있습니다.
* 위 과정은 시험 및 심사 종류에 따라 일부 변경될 수 있습니다.
AI 품질 구현의 전체 구조
AISL(AI safety levels)
AISL은 (4, 3, 2, 1, 0.2, 0.1, 0) 7개의 수준으로 분류되며 주어진 두 개의 표를 사용해서 수준을 결정됩니다.
이 지침은 4 또는 3 수준이 직접적으로 ML에 할당되는 것을 기대하지 않고 그렇게 해야 한다면 시스템 설계를 재검토해야 합니다.
AIPL(AI Performance levels) : 성능/유용성
- 제품 또는 서비스가 시스템 작동을 위한 특정 성능 지표(예: 정확도, 정밀도 또는 리콜)를 충족하는 것이 필수적이거나 강력하게 예상되는 경우
- 특정 성과 지표의 이행이 계약의 요건으로 명시되어 있는 경우
- 특정 성과 지표가 제품의 목적을 충족하는 요인으로 식별되었지만 AIPL 2가 해당되지 않는 경우
예를 들어, 개발 기간을 단축하는 것이 유리하거나 운영 단계에서 만족스러운 수준으로 점진적으로 성능을 개선하는 것이 허용될 때
- 개발 초기에 성과지표를 명시하지 않고, 성과지표 발견 자체가 개발의 목적인 경우
- 개념 증명(Proof of Concept) 단계에서 개발이 완료되는 경우
AIFL(AI Fairness levels) : 공정성
- 법률, 규정 또는 이에 준하는 사실상의 사회적 지침에 따라 일정 수준의 공정한 대우가 요구되는 경우
- 제품이 개인 데이터를 다루고 그 결과가 개인의 권리에 직접적인 영향을 미치는 경우
- 제품이나 서비스에 편향이 없다는 요구 사항을 정의하는 것이 가능한 경우
- 제품의 사회적 수용성이나 운용에 영향을 미칠 수 있는 머신러닝(또는 AI 전반)이 제공하는 공정한 대우에 대한 설명이 요구될 가능성이 있는 경우
- 제품이나 서비스의 공정성에 대해 식별 가능한 요구사항이 없는 경우
- 성과 등의 다른 요소를 고려했을 때, 산출물이 불공정하거나 균일하지 않더라도 제품이나 서비스가 긍정적으로 수용될 경우
- 공정성에 대한 요구 사항이 입력 클래스와 관계없이 높은 성능으로 이해되는 경우, 이 경우 다른 속성(위험 회피 또는 성능)과 관련된 입력 클래스의 다양성 지원에 대한 요구 사항으로 해석됩니다.
예를 들어, 일부 기계적 결함을 감지하는 애플리케이션에서 특정 결함 클래스에 대한 감지율이 비교적 높으면 다른 선호되지 않는 클래스의 감지율과 일치하도록 감지율을 낮출 필요가 없습니다.
