내 머리속 지우개

이 포스팅은 ISO/PAS 8800:2024에서 9. Derivation of AI Safety Requirements를 기반으로 작성하였습니다. AI 시스템의 안전성은 현대 기술에서 가장 중요한 주제 중 하나입니다. AI가 사람의 생명과 재산에 영향을 미칠 수 있는 영역에 적용될수록, AI 시스템의 안전 요구사항 도출은 필수적인 과정이 됩니다. 이 포스팅에서는 AI 안전 요구사항 도출의 목적, 사전 준비 사항, 일반 요구사항, AI 안전 요구사항 도출에 대한 작업 흐름 및 세부적인 기술을 포함하고 있습니다. 1. AI Safety Requirements 도출의 목적AI 안전 요구사항 도출의 목적은 다음과 같습니다:안전성 보장: AI 시스템이 안전성을 확보하기 위해 완전하고 일관된 요구사항을 정의합니다...

이번 포스팅은 ISO/PAS 8800:2024, 13. Safety Analysis of AI Systems를 기반으로 작성하였습니다.  AI 시스템은 자율주행, 의료진단, 산업 자동화 등 다양한 영역에서 혁신을 이끌고 있지만, 안전성 확보는 여전히 중요한 과제로 남아 있습니다. 특히, AI 시스템의 오류는 단순한 기능적 결함을 넘어 안전 요구사항 위반으로 이어질 수 있으며, 이는 심각한 결과를 초래할 수 있습니다. 이러한 위험을 줄이기 위해 AI 시스템에 대한 철저한 안전 분석이 필수적입니다.이번 포스팅에서는 ISO/PAS 8800에서 언급된 AI 시스템 안전 분석의 목적과 범위, 테스트 기반 분석 접근법, 그리고 효과적인 안전 분석 기술에 대해 알아 보겠습니다. 1. AI 시스템에 대한 안전 분석 범..

AI(Artificial Intelligence) 기술은 자동차 시스템에서 점점 더 중요한 역할을 맡고 있습니다. 자율주행(Autonomous Driving), 첨단 운전자 지원 시스템(Advanced Driver Assistance System) 등 다양한 분야에서 AI가 활용되면서, 이 AI 적용 기술의 안전성을 보장하기 위한 체계적이고 신뢰할 수 있는 표준의 필요성이 대두되었습니다.이에 따라 2024년 12월 출간된 ISO/PAS 8800 (Road Vehicles - Safety and Artificial Intelligence)은 기존 ISO 26262와 ISO 21448의 원칙을 확장하고 AI 시스템의 특수성을 반영하여, 차량 시스템에서 AI 안전성을 확보하기 위한 새로운 기준을 제시합니다. ..

ISO/PAS 8080:2024, Road Vehicles - Safety and Artificial Intelligence는AI 기술이 통합된 차량 시스템에서 안전성을 보장하기 위한 문서로서,자동차 산업에서 급증하는 AI 기술의 활용에 따른 새로운 안전 요구사항에 대응하기 위해 개발되었습니다. 이 문서는 ISO 26262 및 ISO 21448과 연계하여AI 기반 시스템의 위험 요소를 체계적으로 다루고 있습니다.이번 포스팅에서는 최근 PAS(Publicly Available Specification) - 워킹 그룹 차원의 합의된 문서로 출간된 ISO/PAS 8080에 정의된 AI 안전 관리 (AI Safety Management)에 대해 알아보겠습니다.   AI Safety Life Cycle: 지속 가..

ISO 26262에서는 Hazard Analysis and Risk Assessment 및 ASIL(Automotive Safety Integrity Level) Determination에 대한 기본적인 원칙과 접근 방식을 설명합니다. 여기에서는 시스템이 직면할 수 있는 위험한 상황을 체계적으로 분석하고, 이에 따른 안전 목표(Safety Goal)를 설정하기 위한 기반을 제공합니다.   Hazard Analysis and Risk Assessment (HARA) 관련 글ISO 26262 HARA (Hazard Analysis and Risk Assessment) for Heavy TruckChatGPT를 이용한 ISO26262 Hazard Analysis and Risk Assessment (HARA)..

GSN - 안전케이스(Safety Case) 관련 포스팅  GSN(Goal Structuring Notation) - 안전 케이스(Safety Case, ISO 26262), 보안 케이스(Security Case, ISO 21434)GSN(Goal Structuring Notation) 표기법 - 안전케이스(Safety Case)/보안케이스(Security Case) 작성GSN(Goal Structuring Notation) 해석 - 안전케이스(Safety Case) 작성 규칙1. GSN의 관계 규칙1-1. Goal 간의 관계부모 Goal과 자식 Goal: GSN에서 하위 주장(Sub-goal, 자식 Goal)이 참이라면 상위 주장(Parent Goal)이 참임을 논리적으로 입증할 수 있습니다.1-2. ..

GSN은 안전성 보증(Safety Assurance)과 신뢰성 입증(Reliability Demonstration)을 위한 핵심 도구로 발전했으며, 다양한 산업 표준 및 인증 요건과 통합되어 사용됩니다. GSN에 대한 개요는 따로 정의된 포스팅을 참고 하시면 됩니다.  GSN - 안전케이스(Safety Case) 관련 포스팅 GSN(Goal Structuring Notation) - 안전 케이스(Safety Case, ISO 26262), 보안 케이스(Security Case, ISO 21434)GSN(Goal Structuring Notation) 표기법 - 안전케이스(Safety Case)/보안케이스(Security Case) 작성GSN(Goal Structuring Notation) 해석 - 안전케..

오늘은 시스템 안전성과 보안성 검증에서 핵심적인 역할을 하는GSN(Goal Structuring Notation)에 대해 이야기해보려 합니다.GSN은 초보자도 쉽게 이해할 수 있는 구조적 언어로,복잡한 시스템의 주장과 논리를 명확히 표현하는 데 사용됩니다.이번 포스팅을 통해 GSN의 기본 개념, 구조, 그리고 실제 활용 사례를 살펴보겠습니다.   GSN - 안전케이스(Safety Case) 관련 포스팅 GSN(Goal Structuring Notation) - 안전 케이스(Safety Case, ISO 26262), 보안 케이스(Security Case, ISO 21434)GSN(Goal Structuring Notation) 표기법 - 안전케이스(Safety Case)/보안케이스(Security Cas..

자동차 네트워크는 다양한 ECU(전자제어장치)가 데이터를 주고받으며 차량의 성능과 안전을 책임지는 중요한 시스템입니다. 그러나 네트워크에서 특정 ECU가 자신을 다른 ECU로 가장하며 데이터를 전송하는 위장 오류(Masquerading Error)가 발생할 수 있습니다. 이는 데이터의 신뢰성과 무결성을 심각하게 위협하며, 차량의 작동을 방해할 수 있습니다. 이번 포스팅에서는 위장 오류의 원인, 영향, 그리고 이를 방지하기 위한 기술적 접근법을 알아보겠습니다. 위장 오류란 무엇인가?위장 오류는 네트워크 내 특정 ECU가 자신의 ID를 위조하거나 다른 ECU의 ID를 사용해 데이터를 전송하는 현상을 말합니다. 수신 측은 잘못된 ID를 신뢰하고 데이터를 처리하게 되며, 이로 인해 시스템 전체에 심각한 문제가 ..

자동차 네트워크는 다양한 ECU(전자제어장치) 간 데이터를 주고받으며 차량 시스템의 효율성과 안전성을 유지합니다. 그러나 데이터가 반복적으로 전송되면서 네트워크가 과부하 상태에 빠지는 지속적인 과도 전송(Constant Over-Transmission) 문제가 발생할 수 있습니다. 이 문제는 네트워크 성능을 저하시킬 뿐만 아니라 중요한 데이터 전송을 방해합니다. 이번 글에서는 지속적인 과도 전송의 원인과 영향, 이를 방지하기 위한 해결책을 알아보겠습니다. 지속적인 과도 전송이란 무엇인가?지속적인 과도 전송은 특정 ECU가 동일한 데이터를 반복적으로 전송해 네트워크 트래픽을 과부하 상태로 만드는 현상을 의미합니다. 이로 인해 네트워크 대역폭이 불필요하게 소모되고, 다른 데이터의 정상적인 전송이 지연됩니다...