AI·SW안전성 인증

AI·SW 안전성 인증

AI·SW 안전성 인증 AI·SW 안전성 인증 제도 AI·SW 안전성 인증

‘AI∙SW 안전성 인증’ 이란?

AI에 대한 시스템 및 하드웨어적 결함이 없이 안전성이 확보되고
안전수준(Safety Integrity Level)에 따라 인공지능 품질요구사항인
안전성 수준(AISL), 성능 수준(AIPL), 공정성 수준(AIFL)을
충족하고 있음을 시험과 심사, 평가를 통하여
적합성 인증서 부여하는 제도입니다.

도입 배경 및 필요성

인공지능 및 SW가 전기/전자 시스템에 적용되면서 원인을 명확히 규명하기 어려운 시스템 이상으로 인한 사고 사례가 국내외에서 지속적으로 보고되고 있습니다.
이러한 사고는 인공지능 자체의 결함인지, 운용·조작상의 과실인지 구분하기 어려운 특성을 가지며, 어떤 경우라도 시스템 이상이나 인공지능의 비정상적 동작이 감지될 경우 즉시 안전한 상태로 전환될 수 있는 대응 체계가 요구됩니다.

본 인증은 인공지능 기능안전 국제표준인 ISO/IEC 5469를 기반으로, 안전과 관련된 제품 요구사항과 개발·운영 프로세스를 체계적으로 제시하고 있으며, 인공지능으로 인한 위험을 사전에 회피하거나 완화하기 위한 지침을 포함함으로써 시스템의 안전성 확보를 지원합니다.

적용 대상

AI를 개발하는 기업 혹은 AI를 적용하는 제품이나 Application을 만드는 기업

범위

ISO/IEC 5469, IEC 61508/ISO 26262 에서 요구하는 시험, 심사와 평가를 리스크 등급에 따라 실행, 유지, 실시여부 확인
ISO/IEC 5469에 의거하여 심사 및 평가 실시
AI 관련 국제표준에 따른 시험
안전 성능에 대한 시험 (정적, 동적, MC/DC test 등등)
시스템적 결함 여부를 확인 (IEC 61508/ISO 26262에 의거 심사(Audit)및 평가(Assessment))
랜덤 하드웨어 결함 여부 확인 (Fault Injection Test, Stress Test 등 실시)
AI System의 고장율과 안전한 고장비율에 대한 정량적 평가
AI의 안전 리스크 등급(AISL)에 따른 평가
AI의 성능 등급(AIPL)에 따른 평가
AI의 공평성 등급(AIFL)에 따른 평가

기대 효과

인공지능 기능안전 인증을 통한 인공지능 및 SW 글로벌시장 진입 및 안정성 확보
인공지능 관련 국제 법규 및 윤리기준 만족
ISO/IEC 5469, IEC 61508, ISO26262를 통한 기술력 향상
개발, 설계인력의 문제해결 능력 향상 및 실무 역량 강화와 보안 솔루션 도입 가능
ISO/IEC 5469 를 적용함으로 타사와의 차별화 전략, 시장선도 및 기업 경쟁력 확보
인공지능, SW로 인한 안전사고로 인한 소송 시 ISO/IEC 5469를 적용함으로 PL(제조물책임)법 대비
제품의 안전성 및 신뢰성이 높아짐에 따라서 A/S, Recall 감소로 이윤 창출
인공지능 및 SW는 자동차 뿐만 아니라 국방, 원자력, 철도, 드론, 로봇, 의료기기, 가전, IoT를 접목하는 모든 산업에 ISO/IEC 5469 인공지능 기능안전 기술을 적용하여 시장 다변화 확보 가능
인공지능 안전성 확보로 ESG 경영 달성