인공지능은 자율주행차의 핵심 기술이다.의사결정, 감지, 예측 모델링 및 기타 작업에 사용됩니다.하지만 이러한 AI 시스템은 공격에 얼마나 취약할까요?

버팔로 대학교(University at Buffalo)에서 진행 중인 연구에서는 이 문제를 조사했으며, 그 결과 악의적인 행위자가 이러한 시스템에 장애를 일으킬 수 있음을 시사했습니다.예를 들어, 차량에 3D 프린팅된 물체를 전략적으로 배치하여 감지되지 않도록 가림으로써 AI 기반 레이더 시스템에 차량이 보이지 않게 렌더링할 수 있습니다.

통제된 연구 환경에서 수행되는 이 작업은 기존 자율주행차가 안전하지 않다는 의미는 아니라고 연구원들은 말합니다.그럼에도 불구하고 이는 자동차, 기술, 보험 및 기타 산업뿐만 아니라 정부 규제 기관 및 정책 입안자에게도 영향을 미칠 수 있습니다.

"오늘날에도 여전히 참신하지만,자율주행차이 연구를 주도하고 있는 SUNY 컴퓨터 과학 및 공학부 석좌교수 Chunming Qiao는 "가까운 미래에 자동차가 지배적인 교통 수단이 될 것"이라고 말했습니다. "따라서 우리는 이러한 자동차를 구동하는 기술 시스템을 보장해야 합니다., 특히 인공지능 모델은 적대적 행위로부터 안전합니다.이것은 우리가 Buffalo 대학에서 부지런히 연구하고 있는 일입니다."

이 연구는 2021년 이후의 연구와 함께 일련의 논문에 설명되어 있습니다.출판됨~에컴퓨터 및 통신 보안(CCS)에 관한 2021 ACM SIGSAC 컨퍼런스 진행.보다 최근의 예는 다음과 같습니다.5월부터 공부~에모바일 컴퓨팅 및 네트워킹에 관한 제30차 연례 국제 회의 간행물(더 일반적으로 Mobicom으로 알려짐) 및 이번 달 제33회 USENIX 보안 심포지엄의 또 다른 연구는 다음에서 볼 수 있습니다.arXiv.

mmWave 감지는 효과적이지만 취약함

지난 3년 동안 Yi Zhu와 Qiao 팀의 다른 구성원들은 UB의 북쪽 캠퍼스에서 자율주행차에 대한 테스트를 진행해 왔습니다.

박사 학위를 마친 Zhu.지난 5월 UB 컴퓨터 과학 및 공학과에서 박사 학위를 취득했으며 최근 Wayne State University의 교수직을 수락했습니다.사이버 보안 전문가인 그는 라이더, 레이더, 카메라의 취약성과 이러한 센서를 융합하는 시스템에 초점을 맞춘 앞서 언급한 논문의 주요 저자입니다.

"자율주행에서는밀리미터파[mmWave] 레이더는 많은 카메라보다 비, 안개, 열악한 조명 조건에서 더 안정적이고 정확하기 때문에 물체 감지에 널리 채택되었습니다. 그러나 레이더는 디지털 방식과 직접 해킹이 모두 가능합니다."라고 Zhu는 말합니다.

이 이론에 대한 테스트 중 하나에서 연구자들은 3D 프린터와 금속 호일을 사용하여 "타일 마스크"라고 부르는 특정 기하학적 모양의 물체를 제작했습니다.차량에 두 개의 타일 마스크를 배치함으로써 레이더 탐지에서 AI 모델을 오도하여 이 차량이 레이더에서 사라지게 할 수 있다는 것을 발견했습니다.

타일 ​​마스크에 대한 연구는 다음과 같이 출판되었습니다.컴퓨터 및 통신 보안에 관한 2023 ACM SIGSAC 컨퍼런스 진행2023년 11월.

공격 동기에는 보험 사기, AV 경쟁 등이 포함될 수 있습니다.

Zhu는 AI가 많은 정보를 처리할 수 있지만 처리하도록 훈련받지 않은 특별한 지침이 주어지면 혼란스러워지고 잘못된 정보를 제공할 수도 있다고 지적합니다.

Zhu는 "고양이 사진이 있고 AI가 이것이 고양이인지 정확하게 식별할 수 있다고 가정해 보겠습니다. 그러나 이미지의 몇 픽셀만 약간 변경하면 AI는 이것이 개 이미지라고 생각할 수 있습니다."라고 Zhu는 말합니다."이것은 AI의 적대적인 예입니다. 최근 몇 년 동안 연구자들은 다양한 AI 모델에 대한 많은 적대적인 예를 발견하거나 설계했습니다. 그래서 우리는 스스로에게 질문했습니다. AI 모델에 대한 예를 디자인하는 것이 가능합니까?자율주행차?"

연구원들은 잠재적인 공격자가 운전자가 여행을 시작하거나 일시적으로 주차하거나 신호등에 정차하기 전에 은밀하게 차량에 적대적인 물체를 붙일 수 있다는 점에 주목했습니다.Zhu는 배낭과 같이 보행자가 착용하고 있는 물건에 물체를 배치하여 보행자의 감지를 효과적으로 지울 수도 있다고 Zhu는 말합니다.

이러한 공격의 가능한 동기로는 보험 사기로 인한 사고 유발, 경쟁 등이 있습니다.자율주행회사 또는 다른 차량의 운전자나 승객을 다치게 하려는 개인적인 욕구.

연구원들은 시뮬레이션된 공격에서는 공격자가 피해자 차량의 레이더 물체 탐지 시스템에 대해 완전한 지식을 가지고 있다고 가정한다는 점에 유의하는 것이 중요하다고 말합니다.이러한 정보를 얻는 것은 가능하지만 일반 대중들 사이에서는 그럴 가능성이 매우 낮습니다.

보안은 다른 기술에 비해 뒤떨어져 있습니다.

대부분의 AV 안전 기술은 차량 내부 부분에 초점을 맞추고 있지만 외부 위협을 조사한 연구는 거의 없다고 Zhu는 말합니다.

“보안은 다른 기술에 비해 뒤떨어져 있습니다.”라고 그는 말합니다.

연구자들은 이러한 공격을 막을 수 있는 방법을 모색했지만 아직 확실한 해결책을 찾지 못했습니다.

Zhu는 “완벽한 방어를 구축하려면 아직 갈 길이 멀다고 생각합니다.”라고 말했습니다."향후에는 레이더뿐만 아니라 카메라 및 동작 계획과 같은 다른 센서의 보안도 조사하고 싶습니다. 그리고 이러한 공격을 완화하기 위한 몇 가지 방어 솔루션도 개발할 수 있기를 바랍니다."