2025 서울모빌리티포럼 발표 - 미래 자동차, AI 그리고 안전을 향한 여정

 

2025년 4월 10일 킨텍스에서 개최된 서울 모빌리티 포럼 2025에서 "미래 자동차, AI 그리고 안전을 향한 여정" 이란 제목으로 발표를 할 수 있는 기회가 있었습니다. 

오랜만에 자료 준비도 재미가 있었지만, 스스로를 돌아 볼 수 있는 기회였다고도 생각합니다. 

 

이번 포스팅에서는 이날 발표한 자료들을 다시 정리해 보고자 합니다.

---

미래 자동차에서의 "안전"의 재정의: 패러다임 전환 속의 위기와 기회

자동차는 더 이상 단순한 ‘기계적 이동 수단’이 아닙니다. 디지털 인터페이스, AI 기반 의사결정 시스템, OTA(Over-The-Air) 기능 개선이 적용된 소프트웨어 정의 자동차(SDV, Software-Defined Vehicle)는 이제 이동수단을 넘어서는 ‘지능형 디지털 공간’으로 진화하고 있습니다. 이는 곧 자동차를 구성하는 핵심이 하드웨어에서 소프트웨어로 이동했음을 의미하며, 그에 따라 안전의 정의와 확보 방식도 근본적으로 변화하고 있습니다.

 

기존의 자동차는 기계적 결함, 즉 브레이크나 조향 시스템의 고장을 중심으로 안전을 고민했지만, 미래자동차에서는 그 중심이 소프트웨어 오류, AI 판단의 불확실성, 센서 인식 오류, 사이버 보안 위협 등으로 이동했습니다. 이는 단순한 기술적 과제가 아니라, 사회적 신뢰와 생명을 지키기 위한 총체적 안전 전략의 수립이 필요하다는 신호입니다.

 

1. 기능안전(Functional Safety)의 확장: ISO 26262에서 ISO 21448로

기능안전의 대표 표준인 ISO 26262는 전통적인 하드웨어/소프트웨어 고장을 대상으로 설계되었으며, 결함 발생 가능성을 최소화하는 설계 원칙을 중심으로 합니다. 그러나 정상 작동 조건에서도 발생할 수 있는 예기치 못한 위험(SOTIF, Safety Of The Intended Functionality)은 이 표준만으로는 설명이 부족합니다.

 

이에 대응하는 ISO 21448 (SOTIF)는 센서 오인식, AI의 미학습 상태, 환경적 비정형 조건에서 발생할 수 있는 위험을 다루며, 기능안전의 패러다임을 “고장 기반 접근”에서 “의도된 기능의 한계에 대한 대응”으로 확장합니다.

 

예를 들어, 눈이 내려 차선이 잘 보이지 않는 상황에서 자율주행차가 잘못된 판단을 내린다면 이는 고장이 아닌 ‘설계의 한계’로서 다뤄야 할 문제입니다. SOTIF는 바로 이러한 부분을 체계적으로 분석하고, 센서 융합(Fusion)과 AI 학습 보완으로 보완할 수 있도록 합니다.

 

2. AI 신뢰성 확보의 중요성: ISO/PAS 8800과 XAI의 실천

미래자동차의 두뇌 역할을 하는 AI 기반 판단 시스템은, 신뢰성을 담보하지 않는 한 오히려 잠재적 위험이 될 수 있습니다. 조사에 따르면 AI가 비정형 상황에서 85% 수준의 정확도에 머물고 있다는 점을 지적하며, 예측 불가능한 판단, 긴급 상황에서의 대응 지연, 윤리적 판단의 불확실성을 주요 위험 요소로 언급하고 있습니다.

 

이러한 위험을 체계적으로 다루기 위한 표준이 바로 ISO/PAS 8800입니다. 이 표준은 다음과 같은 원칙을 강조합니다:

• AI 학습 데이터의 편향 제거 및 품질 평가
• 설명 가능 AI(Explainable AI, XAI) 기반의 의사결정 투명성
• 실시간 검증 및 업데이트 체계 구축
• 비정상적 입력에 대한 AI의 안정적 반응 확보

특히 “AI 판단 기록 분석”은 AI가 어떻게 판단을 내렸는지 투명하게 추적하고, 오류 발생 시 원인을 정확히 파악할 수 있게 해 줍니다. 이는 ‘보이지 않는 위험’을 ‘보이게 만드는 안전’이라는 현대적 안전 철학을 실천하는 핵심 전략이라 할 수 있습니다.

 

 

3. 사이버 보안(Cybersecurity): 연결성과 해킹의 이중성

SDV의 등장은 자동차를 외부와 항상 연결된 플랫폼으로 만들며, 사이버 공격의 표적으로 만들었습니다. 특히 OTA를 통한 무선 업데이트는 해커가 악의적으로 차량 제어권을 장악할 수 있는 위협 요소로 작용할 수 있습니다. 이를 방지하기 위한 표준이 바로 ISO/SAE 21434입니다.

 

이 표준은 다음을 중심으로 구성됩니다:

• 자산 식별 및 위협 분석
• 보안 요구사항 정의 및 구현
• 보안 테스트 및 모니터링
• 라이프사이클 전반에 걸친 지속적 보안 관리

사이버보안은 이미 유럽 UNECE R156, 한국의 법제화 시행(2025년 3월) 등으로 제도적 강제력이 확보되고 있으며, 기능안전과 마찬가지로 규제 준수 없이는 시장 진입이 불가능한 요건으로 자리잡고 있습니다.

 

4. 안전 확보를 위한 종합 전략: GSN 기반의 논증과 5단계 프레임워크

기술이 아무리 정교하더라도, 그것이 안전하다는 증거를 ‘설득력 있게 보여주지 못한다면’ 신뢰받기 어렵습니다. 따라서 현대적 안전 전략은 기술적 설계만이 아닌, 그 안전성을 체계적으로 논증하는 프레임워크를 포함해야 합니다.

 

GSN(Goal Structuring Notation)은 바로 그 방법론 중 하나로, 최상위 목표(G1)를 하위 목표(G2~G4), 전략(S1), 해결 수단(Sn)으로 구조화하여 논리적이고 추적 가능한 안전 증명 체계를 구축합니다.

 

더불어, 다음의 5단계 안전 확보 프레임워크는 안전 확보의 현실적 접근을 제시합니다:

 

1. Awareness: 기술 중심이 아닌, 안전 중심 인식
2. Standardization: ISO/UNECE 등 표준의 통합적 적용
3. Evaluation: SOTIF, ISO/PAS 8800 기반의 실차 및 시뮬레이션 평가
4. Validation: GSN 등으로 객관적 증명 체계 수립
5. Enforcement: 법적 강제성을 통해 안전 확보를 현실화

 

---

마치며... 미래를 위한 필수 조건, ‘기술+안전의 병행’

자동차 산업은 지금, 내연기관의 종말과 함께 SDV, 자율주행, xEV로 대전환 중에 있습니다. 이는 기회이자 동시에 위기입니다. 혁신은 ‘속도’가 아니라 ‘신뢰’를 동반해야 합니다.

• 자율주행은 AI의 신뢰 없이는 대중화될 수 없습니다.
• 소프트웨어 업데이트는 보안이 담보되지 않으면 위험 그 자체가 됩니다.
• 전기차는 충전 인프라만큼이나 기능안전과 사이버보안이 함께 발전해야 합니다.

따라서 미래자동차의 성공은 단순한 기술 혁신이 아니라, ‘기술 발전과 안전 기준 준수의 동반 성장’에 있습니다. ISO 26262, ISO 21448, ISO/PAS 8800, ISO/SAE 21434, 그리고 각국의 법제화는 단순한 규제가 아니라 산업의 지속성과 소비자의 신뢰를 지키는 최소한의 사회적 계약입니다.

 

미래를 움직이는 것은 기술이지만, 그 기술이 안전을 품지 않는다면 우리는 결코 그 미래에 도달할 수 없습니다.