AI를 활용한 ISO26262 Hazard Analysis and Risk Assessment (HARA) 수행

출처: OPEN ECU

 

ISO 26262는 자동차 기능 안전을 위한 국제 표준으로, 안전 관련 시스템의 개발, 생산, 유지보수 전 과정에서의 리스크를 체계적으로 관리하는 것을 목표로 합니다. 이 표준에서 정의하는 Hazard Analysis and Risk Assessment (HARA) 방법론은 시스템의 위험 요소를 식별하고, 그 위험 요소의 심각성, 노출 빈도, 그리고 제어 가능성을 평가하여 필요한 안전 요구사항을 도출하는 과정입니다.

오늘은 AI를 활용하여 ISO 26262의 HARA를 수행하는 방법과 그로 인해 얻을 수 있는 이점을 구체적인 예를 들어 설명해보겠습니다. 또한 AI를 활용할 때 주의해야 할 점들도 함께 살펴보겠습니다.

HARA 방법론 개요

HARA는 주로 다음과 같은 단계를 통해 진행됩니다:

1. Hazard 식별: 시스템의 다양한 기능이 실패할 때 발생할 수 있는 잠재적 위험 요소를 식별합니다.
2. Risk 평가: 식별된 위험 요소를 심각도 (Severity), 노출 빈도 (Exposure), 제어 가능성 (Controllability) 측면에서 평가합니다.
3. ASIL 결정: 평가된 위험 요소에 따라 Automotive Safety Integrity Level (ASIL)을 결정합니다.
4. 안전 목표 설정: 결정된 ASIL에 기반하여 시스템의 안전 목표를 설정합니다.

이 과정을 통해 시스템의 잠재적인 위험 요소를 체계적으로 관리하고, 안전성을 보장할 수 있습니다.

AI를 활용한 Hazard Analysis and Risk Assessment

전통적인 HARA 방식

전통적인 HARA 방식에서는 주로 전문가들이 모여 브레인스토밍을 통해 잠재적인 위험 요소를 식별하고, 이를 평가합니다. 예를 들어, 자율 주행 자동차의 브레이크 시스템을 분석한다고 가정해보겠습니다.

1. Hazard 식별: 브레이크 시스템이 오작동하여 제동이 불가능한 상황을 위험 요소로 식별합니다.
2. Risk 평가: 이 위험 요소를 심각도, 노출 빈도, 제어 가능성 측면에서 평가합니다.
   • Severity: 제동 불가 상황은 매우 심각한 사고로 이어질 수 있으므로, 심각도는 높게 평가됩니다. (S3)
   • Exposure: 브레이크 시스템이 자주 사용되므로, 노출 빈도도 높게 평가됩니다. (E4)
   • Controllability: 운전자가 제어할 수 있는 방법이 거의 없으므로, 제어 가능성은 낮게 평가됩니다. (C3)
3. ASIL 결정: 위 평가를 종합하여 ASIL D로 결정합니다.
4. 안전 목표 설정: ASIL D에 맞는 높은 수준의 안전 목표를 설정하며, 예를 들면 다음과 같습니다.
   • 안전 목표 1: 브레이크 시스템은 모든 주행 조건에서 지연 없이 즉각적으로 반응해야 합니다.
     이 목표는 브레이크 시스템의 반응 시간을 최소화하고, 모든 상황에서 제동 성능을 유지하도록 합니다.
   • 안전 목표 2: 브레이크 시스템의 구성 요소는 고장 발생 시 안전 모드로 전환되어 차량을 안전하게 정지시켜야 합니다.
     이 목표는 브레이크 시스템의 일부가 고장나더라도 전체 시스템이 안전하게 작동할 수 있도록 보장합니다.
   • 안전 목표 3: 브레이크 시스템의 상태는 실시간으로 모니터링되며, 이상 발생 시 운전자에게 즉각적인 경고를 제공해야 합니다.
     이 목표는 브레이크 시스템의 실시간 모니터링을 통해 이상 발생 시 즉각적인 대처가 가능하도록 합니다.

AI를 활용한 HARA 방식

AI를 활용하면 이 과정이 더욱 체계적이고 효율적으로 수행될 수 있습니다. AI 시스템은 대량의 데이터를 분석하고, 이를 기반으로 잠재적 위험 요소를 자동으로 식별하고 평가할 수 있습니다.

예를 들어, 자율 주행 자동차의 브레이크 시스템을 AI로 분석한다고 가정해보겠습니다.

1. Hazard 식별: AI 시스템은 다양한 주행 데이터와 브레이크 시스템의 작동 데이터를 분석하여 잠재적인 위험 요소를 자동으로 식별합니다. 예를 들어, 자동차 브레이크 시스템에 대한 Hazard를 식별하는 과정을 보면 다음과 같습니다.
   1. 데이터 수집: 차량의 주행 데이터, 브레이크 시스템 로그, 센서 데이터, 과거 고장 및 사고 기록을 수집합니다.
   2. 데이터 전처리: 수집된 데이터를 정리하고, 노이즈를 제거하며, 결측값을 처리합니다.
   3. 특징 추출: 제동 시간, 제동력, 환경 조건 등의 중요한 특징을 추출합니다.
   4. 모델 학습: 과거 데이터를 기반으로 머신러닝 모델을 학습시킵니다.
   5. 위험 요소 식별: 학습된 모델을 사용하여 새로운 주행 데이터에서 다음과 같은 위험 요소 패턴을 식별할 수 있습니다.
      • 브레이크 반응 지연: 특정 조건에서 브레이크 반응 시간이 길어지는 패턴
      • 제동력 부족: 제동 시 필요한 제동력이 충분하지 않은 상황
      • 환경 변화에 따른 위험: 비나 눈 등 악천후에서의 제동 성능 저하
2. Risk 평가: 식별된 위험 요소를 AI가 자동으로 평가합니다. 머신러닝 알고리즘을 통해 심각도, 노출 빈도, 제어 가능성을 데이터 기반으로 정확하게 평가할 수 있습니다.
   • Severity: 과거 사고 데이터와 유사한 상황을 분석하여 심각도를 예측합니다.
   • Exposure: 다양한 주행 조건에서의 브레이크 사용 빈도를 분석하여 노출 빈도를 평가합니다.
   • Controllability: 시뮬레이션 데이터를 통해 제어 가능성을 평가합니다.
3. ASIL 결정: AI가 평가 결과를 종합하여 ASIL을 자동으로 결정합니다.
4. 안전 목표 설정: AI는 결정된 ASIL에 따라 적절한 안전 목표를 제안합니다.

AI를 활용한 HARA의 장점

AI를 활용한 HARA의 주요 장점은 다음과 같습니다:

• 신속한 위험 식별 및 평가: AI는 대량의 데이터를 빠르게 분석하여 잠재적 위험 요소를 식별하고 평가할 수 있습니다. 이를 통해 시간과 비용을 절감할 수 있습니다.
• 높은 정확도: AI는 데이터 기반으로 위험 요소를 평가하므로, 인간의 주관적인 판단을 배제하고 높은 정확도를 유지할 수 있습니다.
• 자동화된 프로세스: AI를 활용하면 HARA 과정이 자동화되어, 반복적인 작업을 줄이고 효율성을 높일 수 있습니다.
• 지속적인 개선: AI는 학습을 통해 지속적으로 성능을 개선할 수 있습니다. 새로운 데이터를 학습하여 위험 요소 평가의 정확도를 높일 수 있습니다.

AI를 활용한 HARA 시 주의할 점

AI를 활용한 HARA를 통해 많은 이점을 얻을 수 있지만, 몇 가지 주의할 점도 있습니다:

• 데이터 품질: AI 시스템의 성능은 학습 데이터의 품질에 크게 의존합니다. 부정확하거나 불완전한 데이터는 잘못된 결과를 초래할 수 있습니다. 따라서, 정확하고 신뢰할 수 있는 데이터를 사용하는 것이 중요합니다.
• 알고리즘의 투명성: AI 알고리즘이 어떻게 결정을 내리는지에 대한 투명성이 필요합니다. 특히, 안전 관련 시스템에서는 결정 과정이 명확해야 하며, 이를 위해 설명 가능한 AI (Explainable AI)가 요구됩니다.
• 인간의 감독: AI 시스템이 자동으로 위험 요소를 식별하고 평가하더라도, 최종 결정은 전문가의 검토와 승인이 필요합니다. AI는 보조 도구로 활용되고, 최종 판단은 인간이 내리는 것이 바람직합니다.
• 윤리적 고려: AI를 활용한 HARA 과정에서 윤리적 고려가 필요합니다. 데이터 사용의 윤리적 문제, 프라이버시 보호, 편향 없는 알고리즘 개발 등이 중요합니다.

위 예시에서 AI가 브레이크 시스템의 위험 요소를 식별하고 평가하는 과정에서 특히 주의해야 할 점은 데이터 품질과 알고리즘의 투명성입니다. 예를 들어, AI가 특정 조건에서 브레이크 반응이 지연되는 패턴을 발견할 때, 이러한 데이터를 충분히 검토하고, 그 원인을 정확히 파악하는 것이 중요합니다. 만약 데이터가 부정확하거나 불완전하다면 잘못된 위험 요소를 식별하게 될 수 있습니다. 또한, AI 알고리즘이 어떻게 이러한 결정을 내렸는지 명확히 이해하고 설명할 수 있어야 합니다.

---

마치며...

AI를 활용한 HARA는 자동차 기능 안전을 더욱 체계적이고 효율적으로 관리할 수 있는 혁신적인 방법입니다. 이를 통해 자동차의 안전성을 높이고, 안전 사고를 예방할 수 있습니다. 하지만 AI를 사용할 때에는 데이터 품질, 알고리즘의 투명성, 인간의 감독, 윤리적 고려 등의 주의할 점을 반드시 염두에 두어야 합니다.

 

2024.08.01 - [Automotive] - ChatGPT를 이용한 ISO26262 Hazard Analysis and Risk Assessment (HARA)

ChatGPT를 이용한 ISO26262 Hazard Analysis and Risk Assessment (HARA)

 

2024.07.31 - [Automotive] - 자동차 제어 소프트웨어 개발에서 인공지능(AI) 활용하기 위한 필수 사항

자동차 제어 소프트웨어 개발에서 인공지능(AI) 활용하기 위한 필수 사항