내 머리속 지우개

이번 포스팅은 ISO/PAS 8800:2024, 13. Safety Analysis of AI Systems를 기반으로 작성하였습니다.  AI 시스템은 자율주행, 의료진단, 산업 자동화 등 다양한 영역에서 혁신을 이끌고 있지만, 안전성 확보는 여전히 중요한 과제로 남아 있습니다. 특히, AI 시스템의 오류는 단순한 기능적 결함을 넘어 안전 요구사항 위반으로 이어질 수 있으며, 이는 심각한 결과를 초래할 수 있습니다. 이러한 위험을 줄이기 위해 AI 시스템에 대한 철저한 안전 분석이 필수적입니다.이번 포스팅에서는 ISO/PAS 8800에서 언급된 AI 시스템 안전 분석의 목적과 범위, 테스트 기반 분석 접근법, 그리고 효과적인 안전 분석 기술에 대해 알아 보겠습니다. 1. AI 시스템에 대한 안전 분석 범..

AI(Artificial Intelligence) 기술은 자동차 시스템에서 점점 더 중요한 역할을 맡고 있습니다. 자율주행(Autonomous Driving), 첨단 운전자 지원 시스템(Advanced Driver Assistance System) 등 다양한 분야에서 AI가 활용되면서, 이 AI 적용 기술의 안전성을 보장하기 위한 체계적이고 신뢰할 수 있는 표준의 필요성이 대두되었습니다.이에 따라 2024년 12월 출간된 ISO/PAS 8800 (Road Vehicles - Safety and Artificial Intelligence)은 기존 ISO 26262와 ISO 21448의 원칙을 확장하고 AI 시스템의 특수성을 반영하여, 차량 시스템에서 AI 안전성을 확보하기 위한 새로운 기준을 제시합니다. ..