내 머리속 지우개

이번 포스팅은 ISO/PAS 8800:2024, 13. Safety Analysis of AI Systems를 기반으로 작성하였습니다.  AI 시스템은 자율주행, 의료진단, 산업 자동화 등 다양한 영역에서 혁신을 이끌고 있지만, 안전성 확보는 여전히 중요한 과제로 남아 있습니다. 특히, AI 시스템의 오류는 단순한 기능적 결함을 넘어 안전 요구사항 위반으로 이어질 수 있으며, 이는 심각한 결과를 초래할 수 있습니다. 이러한 위험을 줄이기 위해 AI 시스템에 대한 철저한 안전 분석이 필수적입니다.이번 포스팅에서는 ISO/PAS 8800에서 언급된 AI 시스템 안전 분석의 목적과 범위, 테스트 기반 분석 접근법, 그리고 효과적인 안전 분석 기술에 대해 알아 보겠습니다. 1. AI 시스템에 대한 안전 분석 범..

ISO 26262는 자동차 기능 안전 표준으로, 차량 개발 과정에서 발생할 수 있는 위험을 최소화하기 위해 체계적 접근 방식을 제공합니다. 이 표준은 특정 안전 요건을 충족하기 위한 다양한 방법론을 제시하는데, 그중 하나가 Proven in Use입니다. 1. Proven in Use의 의미 ISO 26262에서 정의하고 있는 Proven In Use의 의미는 다음과 같습니다. 참고로 추가적인 용어 정의는 별도로 작성한 포스팅을 참고하시면 됩니다. (참고: 2024.09.16 - ISO 26262: Vocabulary (Part 1), 기능안전 표준 용어 정리 (2018) - O ~ Q) 3.115 사용 입증 논거(Proven in Use Argument)사용 입증 논거는 후보(candidate, 3.1..