The Korean Society Of Automotive Engineers
[ Article ]
Transactions of the Korean Society of Automotive Engineers - Vol. 32, No. 9, pp.703-711
ISSN: 1225-6382 (Print) 2234-0149 (Online)
Print publication date 01 Sep 2024
Received 18 Mar 2024 Revised 02 May 2024 Accepted 07 May 2024
DOI: https://doi.org/10.7467/KSAE.2024.32.9.703

가상의 악천후에서 자율 시스템 시험평가를 위한 실시간 라이다 신호 증강

황석현* ; 태현성 ; 여세동 ; 황규환
국방과학연구소 국방시험연구원
Real-Time LiDAR Signal Augmentation for Testing and Evaluation of Autonomous Systems in Virtual Adverse Weather
Sukhyun Hwang* ; Hyunsung Tae ; Saedong Yeo ; Gyuhwan Hwang
Defense Test & Evaluation Research Institute, Agency of Defense Development, 160 Bugyuseong-daero 488beon-gil, Yuseong-gu, Daejeon 34186, Korea

Correspondence to: *E-mail: shh2019@add.re.kr

Copyright Ⓒ 2024 KSAE / 226-02
This is an Open-Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License(http://creativecommons.org/licenses/by-nc/3.0) which permits unrestricted non-commercial use, distribution, and reproduction in any medium provided the original work is properly cited.

Abstract

Light Detection and Ranging(LiDAR) is widely used in autonomous systems. Because it is sensitive to adverse weather conditions, it should be considered carefully when evaluating autonomous systems. However, providing real weather conditions at our own will is difficult. Hence, this paper suggested providing virtual weather conditions in real time for the autonomous system under test. We implemented the real-time mixed reality of LiDAR signal in rainy and snowy weather conditions using LiDAR Light Scattering Augmentation(LISA). Hence, we generated particles in a laser beam and stored their properties in tables repeatedly in advance. We also significantly reduced the processing time in augmenting LiDAR signals by reading particle information from tables instead of generating particles for every laser beam during the autonomous system evaluation.

Keywords:

Autonomous system, LiDAR signal augmentation, Test & evaluation, LiDAR, Real-time

키워드:

자율 시스템, 라이다 신호 증강, 시험평가, 라이다, 실시간

1. 서 론

자율 시스템은 다양한 산업 분야에서 활발히 적용되고 있는 차세대 기술로 주목 받고 있다. 국방 분야에서의 자율 무기 시스템은 개발 초기 단계에 있고 이에 따라 자율 무기 시스템 시험평가의 필요성이 대두되고 있다. 그러나, 해당 무기체계는 제한적인 상황의 임무나 개별 기능 수준의 시험평가만 수행되고 있으며 범용적 시험평가 기준 및 절차가 아직 없는 실정이다.1,2) 인공지능을 기반한 자율 무기 시스템에 대한 시험에는 복잡한 동적인 응답에 대한 검증이 필요하며, 특히, 야지, 험지, 악천후 기후 등 다양한 환경에서 보편화되지 않은 임무 수행이 요구되기 때문에 이에 대응하기 위한 방안이 요구된다.3,4) 또한 시험 항목의 경우, 실제 구성하기에 위험한 사고 상황이나 재구성이 어려운 돌발 상황, 악천후 등과 같은 엣지 케이스가 포함된다. 엣지 케이스는 자율 시스템을 평가하는데 가장 중요한 부분이 될 수 있다. 하지만 많은 엣지 케이스를 구성하기에는 많은 시간과 비용이 소요되며 시험 환경을 정확하게 재구성하기 어렵다. 최근에는 가상 및 혼합현실을 이용한 시험 환경을 구축함으로써 이러한 단점을 보완하고자 하는 연구가 진행되고 있다.4-8) 특히 실제 측정 데이터에 가상 데이터를 증강시키는 혼합현실은 가상현실과는 달리 실제 시험 환경과 좀 더 유사하며 실시간으로 실제 시험 환경과 반응하기 때문에 가상 환경에서의 시험과 실제 시험 간의 차이를 줄여줄 수 있다. 본 연구에서는 혼합현실 시험을 구현하기 위한 하나의 방안으로 요구되는 가상의 악천후에서 자율 시스템 시험평가를 위한 실시간 라이다 증강 시스템을 제안하며, 전반적인 동작개념은 Fig. 1과 같다. 제안하는 시스템은 실제 시험 플랫폼에 가상날씨에 대한 라이다 증강 신호를 주입하여, 날씨에 따른 자율 시스템의 행동 변화 및 견고성 등을 확인/검증할 수 있다.

Fig. 1

LiDAR signal augmentation in virtual adverse weather

자율 무기 시스템은 높은 신뢰성을 위해 다양한 센서를 탑재하는데 그 중 라이다 센서는 3차원 공간에서 지형 및 물체 감지에 강점이 있으므로 주행경로 결정,10) 장애물 감지,11) 지도 작성12) 등에 다양하게 사용되고 있다.13) 레이저가 반사되어 돌아오는 시간과 강도를 측정하여 주변 환경과의 거리를 측정하는 라이다는 날씨의 영향으로 성능이 저하될 수 있다.15,16) 비, 눈, 안개 상황에서 물 입자는 레이저 빔을 산란, 반사, 감쇠시켜 라이다의 정확도를 감소시키며,9) 이로 인해 미탐지 혹은 오탐지가 발생하는데 강수량이 높을수록 더 많은 오차가 발생한다. 본 논문에서는 여러 날씨 조건에서 포인트 클라우드 증강 방법을 조사하였고,21-23) 강수환경에 적합한 LISA(LiDAR Light Scattering Augmentation) 알고리즘을 선택하였다.21) LISA알고리즘으로 증강된 데이터를 활용하여 3D 물체인식 네트워크를 학습시키면 실제 강수 환경에서 물체 인식률이 향상되는 결과를 통해21) LISA 알고리즘으로 증강된 데이터는 실제 강수 환경과 유사하다고 유추할 수 있다. 그러나, LISA 알고리즘은 몬테카를로 시뮬레이션에 기반하므로 실행에 많은 시간이 소요된다. 따라서, 본 논문에서는 LISA 알고리즘을 실시간으로 적용하기 위해 계산량이 많은 구간을 식별하여, 사전에 시뮬레이션 수행 후 불러오는 방식으로 라이다 신호 증강 알고리즘을 구현하였다.


2. 관련 연구

라이다를 이용한 자율 시스템이 개발됨에 따라 악천후 환경에서 자율 시스템의 오작동으로 인한 문제가 발생할 수 있다. 이러한 문제점을 보완하기 위해 라이다 데이터에 대한 날씨 영향을 모델링하여 자율주행 알고리즘을 검증하는 기법들이 제시되고 있다.21-23) 날씨에 따른 라이다 신호 증강 알고리즘 중 많이 사용되고 있는 알고리즘은 Bijelic의 알고리즘,22) Goodin의 알고리즘,23) LISA(LiDAR Light Scattering Augmentation) 알고리즘22) 등이 있다. Bijelic과 Goodin의 알고리즘은 물 입자가 레이저 빔 안에 균등하게 분포한다고 가정하므로 구현이 단순한 장점이 있다.15,16) 이와 달리 LISA 알고리즘은 비, 눈과 같은 균일하지 않은 입자를 고려하므로 강우와 강설 조건을 자연스럽게 증강하기에 적합하다. LISA 알고리즘은 강수 조건에 따라 물 입자의 직경별 밀도를 자유롭게 설정할 수 있다.21)

2.1 Bijelic의 알고리즘

Bijelic의 알고리즘은 안개 환경에서 라이다 신호를 증강하기 위하여 제안된 알고리즘이다.22) Bijelic의 알고리즘은 레이저 빔 경로 상의 강수 환경이 균등하다고 가정하고 강수량과 거리에 따른 라이다 방정식인 식 (1), 식 (2)를 이용하였다.22)

PrhardR=exp-2αRoCA×02τHElsin2π2τHt1Ro2βoδR-ct2-Rodt(1) 
PrsoftR=CAElβ02τHsin2π2τHt×exp-2αR-ct2R-ct22ξR-ct2URo+ct2-RdtξR=0,R<Rmin1,RminR(2) 

Bijelic의 알고리즘 방식은 실제 배경에서 반사되고, 강수에 의해 감쇠된 하드 타겟 전력과 강수에 의해 역산란되는 소프트 타겟 전력으로 구분하고 두 전력을 비교하여 더 큰 전력의 포인트를 출력한다. 식 (1)은 하드 타겟 전력식이고 식 (2)는 소프트 타겟 전력식이다. 식 (1)Prhard은 하드 타겟 전력, 식 (2)Prsoft은 소프트 타겟 전력, c는 빛의 속도, α는 Extinction coefficient, Ro는 배경 포인트의 거리, R은 라이다로부터의 임의의 거리, El은 송신되는 레이저 전력, CA는 센서 파라미터, βo는 배경 포인트의 Reflectivity, β는 강수의 Reflectivity, ξ는 최소 탐지 거리 이내의 신호를 제외하기 위한 함수, U는 단위 계단 함수, τH는 라이다에서 송출된 레이저 빔 펄스 폭의 1/2, Rmin은 라이다가 감지할 수 있는 최소 거리이다. Bijelic의 알고리즘은 식 (1)식 (2)로 계산된 하드 타겟과 소프트 타겟의 반사 전력을 비교하여 보다 큰 값을 갖는 타겟을 선택한다. 하드 타겟이 선택된 경우에는 타겟의 거리가 배경 포인트의 거리인 Ro로 결정되고, 소프트 타겟이 선택된 경우, 타겟의 거리는 식 (2)를 최대로 하는 R로 결정된다.

Bijelic의 알고리즘은 강수 환경에 의해 소실되는 포인트가 없고 하드 타겟 포인트는 거리변화 없이 강도만 감쇠시켜 출력한다. 소프트 타겟의 거리는 식 (2)에 의해 계산된 거리 R에 거리 변동성을 반영하기 위해 2-1에서 21사이의 랜덤 값을 곱하여 출력한다.

2.2 Goodin의 알고리즘

Goodin의 알고리즘은 배경 포인트에 대해 강수에 의한 감쇠 효과를 반영한 라이다 반사 전력과 최소 검출 전력을 비교하여 배경 포인트에 대한 반사 전력이 최소 검출 전력보다 작을 경우에는 배경 포인트를 삭제하고, 최소 검출 전력보다 클 경우에는 배경 포인트에 랜덤 노이즈를 추가한다. Goodin의 알고리즘은 강수량이 많아질수록 배경 포인트에 대한 반사 전력이 약해져서 많은 배경 포인트가 삭제된다.23)

라이다의 최소 검출 전력은 라이다 제조사에서 제시한 최대 측정 거리를 이용하여 식 (3)과 같이 추정할 수 있다. 라이다 최대 측정 거리는 맑은 날씨에 90 % 난반사 타겟을 탐지할 수 있는 거리로 정의된다.23)

Pmin=0.9πRmax2(3) 

식 (3)에서 0.9는 90 % 난반사 타겟을 대상으로 함을 나타내고, Rmax는 최대 측정 거리, Pmin은 최소 검출 전력이다. Goodin의 알고리즘은 Bijelic의 알고리즘과 달리 라이다와 실제 배경 포인트 사이의 강수에 의한 소프트 타겟을 고려하지 않으므로 강수에 의한 포인트가 생성되지 않는다.

2.3 LISA 알고리즘

LISA 알고리즘은 강수 조건에 따라 레이저 빔 영역 내에 무작위로 입자들을 생성하여 그 중 가장 큰 반사 전력을 갖는 입자를 선택한다. LISA는 선택된 입자에서 반사된 전력과 배경 물체에서 반사된 반사 전력을 비교하여 증강된 포인트의 위치와 반사 전력을 결정한다.21) LISA 알고리즘은 다양한 입자 크기 및 물질로 이루어진 산란체로 쉽게 확장할 수 있으므로 강우와 강설 조건에 적용하기 쉽다. 그러나 LISA 알고리즘은 무작위로 입자들을 생성하기 때문에 연산량이 많아 처리 시간이 오래 걸린다는 단점이 있다. 따라서, LISA 알고리즘은 주로 학습을 위한 데이터 생성을 목적으로 사용하기에는 적합하지만 자율 시스템 시험평가에 실시간으로 적용하기에는 적절치 않다.

2.3.1 라이다 방정식

라이다는 레이저 빔을 사용하여 주변 환경을 스캔하고 거리를 측정하는 센서로서 송신기와 수신기로 구성된다.14) 송신기는 레이저 빔을 펄스 형태로 송출한다. 송출된 레이저 빔들은 주변 환경의 물체들과 반사, 흡수, 굴절 등과 같은 상호작용을 하게 된다. 수신기는 광전자 센서로 구성되어 물체에서 반사된 레이저 빔을 감지하여 전기 신호로 변환하고 레이저 빔이 반사되어 돌아온 시간과 반사된 신호의 강도를 측정한다. 송수신기는 일반적으로 회전 구조로 이루어져 레이저 빔을 일정한 각도로 송출하여 주변 환경을 스캔한다. 라이다의 빔 부피를 계산하기 위한 빔 퍼짐각, 레이저와 물 입자와의 반응을 계산하기 위한 레이저 파장 값 등을 이용하여 라이다 신호에 미치는 날씨 영향을 모델링할 수 있다.17,18)

식 (4)의 펄스형 ToF(Time of Flight) 라이다 방정식은 송신 레이저 빔이 산란매질을 통해 전파될 때 배경의 거리에 대한 함수로 반사 전력을 표현한다.23)

PrRo=ElCAρo2Ro2exp-20Roαr'dr'(4) 

식 (4)에서 Pr은 라이다에서 수신되는 전력, Ro은 배경 까지의 거리, El은 송신되는 레이저 전력, CA는 센서 파라미터, ρo는 배경의 반사율, α(r′)는 강수환경의 Extinction coefficient이다. 식 (4)에서 α(r′)를 상수로 가정하고 라이다의 특성에 따른 상수인 El, CA를 생략하여 식 (6)과 같이 단순화된 반사 전력식을 사용한다.23) 식 (6)에서 ρo는 배경 포인트의 반사율로서 측정된 수신 전력에 영향을 미치는 파라미터이며, 마찬가지로 물 입자에 대한 반사율 ρ식 (5)와 같이 계산될 수 있다. 식 (5)n은 Complex reflective index이며 ‘비’일 때에는 1.328, ‘눈’일 때에는 1.31이다.21)

ρ=n-1n+12(5) 
PoRo=ρoRo2exp-2αRo(6) 

식 (6)에서 강수에 의한 감쇠를 고려하기 위해서는 Extinction coefficient, α를 구해야 한다. α는 매질의 성질과 빛의 감쇠 현상에 대한 법칙인 Beer-Lambert 법칙을 이용하여 식 (7)과 같이 계산될 수 있다.21)

α=0σextDNDdDNDrain=8000exp-4.1Rr-0.21DNDsnow=7600Rr-0.87exp-2.55Rr-0.48D(7) 

식 (7)에서 σext(D)는 물 입자의 Extinction cross-section이고 D는 물 입자의 직경이다. N(D)는 물 입자의 직경별 밀도이고 Rr은 강수량이다.19,20)

2.3.2 LISA 알고리즘 구조

LISA 알고리즘의 의사코드를 Algorithm 1과 같이 표현하였다. 알고리즘의 입력은 배경 포인트 클라우드와 강수량이고 알고리즘의 출력은 날씨에 의해 증강된 포인트 클라우드이다. LISA 알고리즘은 우선, 상수인 Pmin, ρ, N(D), α식 (3), 식 (5), 식 (7)과 같이 계산한다.

LISA 알고리즘은 매 배경 포인트마다 배경 포인트의 반사 전력 Po를 저장하고 Fig. 2와 같이 레이저 빔 안에 다수의 물 입자를 무작위로 생성한다. 이때, 레이저 빔의 부피 bvol식 (9)와 같이 계산되고, 이 빔 안에 생성되는 물 입자의 총 개수 Ntotal식 (10)과 같이 얻어진다.

Ro=x2+y2+z2(8) 
bvol=π3RoRo×tanθbeam22(9) 
Ntotal=bvolDmNDdD(10) 
Fig. 2

Random generation of particles within laser beam

식 (8)x, y, z는 배경 포인트의 좌표이고 Ro는 라이다에서 배경 포인트까지의 거리이다. 식 (9)θbeam은 레이저의 빔 퍼짐각으로서, 여기서는 0.003 radian로 정하였고, 식 (10)Dm은 물 입자의 최소 직경으로서, 여기서는 50 μm로 정하였다.21)

빔 안의 물 입자 개수만큼 각 물 입자의 거리 R과 직경 D를 구한다. 물 입자의 거리는 식 (11)과 같이 거리에 따라 가중치를 두어 결정된다. 한편, 물입자의 직경은 식 (12)에 의해 정해진다. 식 (11)식 (12)nrand은 0과 1사이의 균일 분포에서 무작위로 생성되는 수이고 식 (12)Λ는 강수 조건에 따른 상수이다.

R=Ro×nrand-13(11) 
D=-ln1-nrandΛ+DmΛrain=4.1Rr-0.21Λsnow=2.55Rr-0.48(12) 

레이저 빔 안의 물 입자들의 특성을 이용하면 각 물 입자들에서 반사된 레이저 전력을 계산할 수 있다. 레이저 빔 안에 생성된 입자들 중, 가장 큰 반사 전력을 가진 입자의 반사 전력과 거리를 선택한다. 이를 날씨에 의해 감쇠된 배경으로부터의 반사 전력 및 최소 검출 전력과 비교하여 최종 출력 값을 생성한다. 물 입자에서 반사된 전력, 배경 포인트로부터 반사된 전력, 최소 검출 전력 중 최소 검출 전력이 가장 큰 경우에는 포인트를 삭제하고, 물 입자 반사 전력이 최소 검출 전력 및 배경 반사 전력보다 클 경우에는 물 입자의 거리와 반사 전력에 해당하는 포인트를 출력한다. 배경 포인트에 의한 반사 전력이 가장 클 경우에는 배경 포인트의 거리 값에 노이즈를 추가하여 포인트를 출력한다.

추가되는 노이즈는 식 (13)과 같이 평균이 배경까지의 거리 Ro이고 표준편차가 σR인 정규분포를 갖는다.21) σR식 (13)과 같이 ∆RSNR로 결정된다. 여기서 ∆R은 라이다의 거리 측정 불확도이고 SNR(Signal Noise Ratio)은 라이다 신호 대 잡음비로서 배경 포인트에 의한 반사 전력과 최소 검출 전력의 비로 계산된다.

Ro '=Ro+N0,σRσR=ΔR2SNR, SNR=PoPmin(13) 

최종적으로 출력된 포인트의 거리, 고각, 방위각을 이용하여 증강된 포인트의 좌표를 계산한다.


3. 가상 강수 환경에서 실시간 라이다 신호 증강 방안

2장에서 살펴본 여러 알고리즘들은 강수 환경에서 학습용 데이터를 증강하기 위해 사용되기 때문에 데이터 처리 속도를 고려하지 않는다. 그러므로 실시간으로 라이다 객체 신호를 증강시켜야 하는 경우에는 적용이 어렵다. 라이다는 프레임 당 수십만 개의 포인트를 탐지하므로 이를 처리하는데 많은 연산이 필요하다. 따라서 제한된 컴퓨팅 자원으로 라이다 신호를 실시간으로 처리하는 데에는 어려움이 있다.

LISA 알고리즘은 입력 자료인 배경 포인트 클라우드의 매 포인트에 대해 많은 입자를 무작위로 생성하므로 많은 연산량을 필요로 한다. 실시간 라이다 신호 증강을 위해 미리 물 입자들을 생성해 놓고 순차적으로 불러오는 방식을 사용함으로써 실시간성을 확보할 수 있다. Table 1은 각 레이저 빔 안에 미리 생성된 입자 중 가장 큰 반사 전력을 갖는 입자의 거리와 반사 전력을 배경 포인트의 거리 별로 정리해 놓은 것이다. LISA 알고리즘은 매 배경 포인트마다 라이다와 배경 포인트 사이에 물 입자들을 생성하므로 미리 물 입자의 거리와 반사 전력에 대한 테이블을 만들기 위해서는 최소 탐지 거리에서 배경 포인트의 최대 거리까지 거리 증분(∆r) 간격으로 구간을 나눌 필요가 있다. Table 1에서 거리 증분(∆r)은 라이다의 측정 불확도와 유사한 0.1 m로 정하였고, 배경 포인트가 속하는 각 거리 구간에 대해 10,000(lmax= 10,000)번 반복하여 입자들을 생성하였다. Fig. 3에서 보는 바와 같이 수십만 번 입자들을 생성한 결과와 10,000번을 생성한 결과를 비교해 보았을 때 거리 및 전력 분포가 시각적으로 매우 유사하다. 또한 거리 및 전력 분포에 대해 각각 RMSE(Root Mean Square Error) 계산 시 0.0011과 0.0008로 매우 낮게 나타남에 따라 10,000번만 반복하여 입자를 생성하여도 원래 LISA 알고리즘의 분포를 재현할 수 있음을 알 수 있다.

Augmentation weather point table

Fig. 3

Particle characteristic distribution in a rainfall rate of 10 mm/h at Rmax

Fig. 3은 배경 포인트의 거리가 Rmax인 경우에 대하여 입자들을 생성한 결과로서 다른 구간의 배경 포인트에 대해서도 10,000번 반복하여 입자들을 생성한 결과는 수십만 번 반복하여 입자들을 생성한 결과와 유사한 분포를 보여줌을 알 수 있었다. 다양한 강수 조건에 대해 라이다 신호를 증강하기 위하여 강수 조건에 따라 Table 1과 같은 형태를 갖는 다수의 테이블을 작성하였다.

Fig. 4는 실시간성을 개선한 날씨 증강 데이터 흐름을 나타낸다. 제안하는 날씨 증강 과정은 다양한 강수 조건에 대해 가상 강수 포인트 테이블을 미리 생성한다. 라이다에서 측정한 포인트를 실시간으로 입력받으면 해당 테이블에서 포인트의 거리가 속하는 구간의 10,000개 입자 정보 중 하나를 불러온다. 실제 배경 포인트를 강수량에 따라 전력을 조정한 후 테이블에서 불러온 가상 강수 포인트와 합성한다.

Fig. 4

Data flow of real-time LiDAR signal augmentation

제안된 알고리즘의 실시간 성능을 확인하기 위하여 ROS(Robot Operating System) 기반의 신호 증강 알고리즘을 구현하였다. ROS는 다양한 기능을 모듈화할 수 있어 자율 시스템 분야에서 널리 사용되고 있다. 라이다 신호 날씨 증강 알고리즘은 Fig. 4의 하단과 같이 라이다에서 발행되는 포인트 클라우드 데이터를 구독하고 강수 환경이 증강된 토픽을 발행한다.

라이다 신호 날씨 증강 알고리즘은 알고리즘 실행 시 강수 형태를 ‘비’, ‘눈’으로 구분하여 입력받는다. 강수 형태를 입력 받은 후, 0 mm/h에서 100 mm/h 사이의 강수량을 입력받는다.

제안된 알고리즘의 기능을 확인하기 위해서 실제 라이다 측정 자료를 미리 저장한 후 다시 재생하면서 ROS에서 구현된 실시간 라이다 신호 증강 알고리즘을 실행하였다. 알고리즘 실행 중 실시간으로 입력되는 포인트 클라우드 한 프레임을 처리하는 시간을 측정하기 위하여 ROS에서 제공하는 시간 측정 함수를 이용하였다.


4. 실험 및 결과

라이다 신호 날씨 증강 알고리즘의 실시간성을 확인하기 위해 기존 LISA 알고리즘과 제안한 알고리즘의 처리 시간을 측정하였다. 증강에 사용된 포인트 클라우드는 KITTI 데이터 셋 중 맑은 날씨에서 측정된 포인트 클라우드 데이터를 이용하였다.24)

측정 날씨 조건은 강우 환경에서는 강우량을 10 mm/h, 50 mm/h, 100 mm/h으로 설정하였으며, 강설 환경에서는 강설량을 10 mm/h, 50 mm/h으로 설정하였다.21,23) 라이다 신호 증강에 소요된 시간과 강수 조건에 따라 사용된 계수(α, ρ, Λ, N(D))를 Table 2Table 3에 나타내었다. 라이다 신호 증강에 사용된 하드웨어 환경은 Jetson Xavier NX Developer Kit로 구성되었다.

Execution time comparison in rain conditions

Execution time comparison in snow conditions

실험 결과, 강우와 강설 조건에서 기존 LISA 알고리즘의 한 프레임 처리 시간은 약 0.5 초 정도로 라이다 신호 발행 빈도인 10 Hz를 만족시킬 수 없다. 이와 달리 수정된 방식을 이용한 경우, 라이다 신호 증강 처리 시간이 한 프레임 당 약 9 ms가 소요되어 실시간 라이다 신호 증강이 가능함을 확인하였다.

입력된 배경 포인트 클라우드와 50 mm/h 강수량 조건에서 출력된 포인트 클라우드 결과를 Fig. 5에서와 같이 비교하였다. Fig. 5(a)는 KITTI 데이터 셋 원본 포인트 클라우드이고 Fig. 5(b)는 강우환경이 증강된 포인트 클라우드이다. Fig. 5에서 분홍색으로 표시된 포인트는 배경 포인트이며 초록색으로 표시된 포인트는 물 입자에 의해 탐지된 포인트이다. 주어진 강우 조건에서 증강된 포인트 클라우드는 날씨 영향에 의해 원거리의 배경 포인트가 일부 사라지고 물 입자에 의한 포인트가 라이다와 배경 사이에 다수 생성되었다.

Fig. 5

LiDAR signal augmentation in rainfall


5. 결 론

본 논문에서는 다양한 강수 조건에 대해 실시간으로 라이다 신호를 증강하기 위해 LISA 알고리즘을 활용하여 레이저 빔 안에 다수의 물 입자를 미리 반복하여 생성한 후 순차적으로 불러오는 방식을 제안하였고 이를 ROS 환경에서 검증하였다. 검증 결과, 포인트 클라우드 한 프레임 당 기존 LISA 알고리즘 실행 시간을 1/50 이하로 단축시킴으로써 가상의 악천후 환경에서 실시간으로 자율 시스템의 운용 성능을 시험평가할 수 있을 것으로 기대된다. 다만, 제안된 방식은 입력된 배경 포인트의 라이다 기준의 방위각과 고각에 대해서만 라이다 신호를 증강하므로 배경 포인트가 존재하지 않는 영역에 대해 강수에 의한 레이저 반사 신호를 생성할 수 없는 한계가 있다. 보통의 강수 조건에서 배경 포인트가 존재하지 않는 경우, 강수에 의한 라이다 신호는 자율 시스템의 인지 기능에서 단순 잡음으로 처리될 수 있으므로 별도로 고려할 필요가 없다.25-27) 그러나, 강수량이 많을 경우에는 배경 포인트가 존재하지 않는 영역까지 고려하여 강수에 의한 라이다 신호를 추가하는 방안을 보강할 필요가 있을 것으로 판단된다.

References

  • H. S. Tae, S. D. Yeo, S. H. Hwang and G. H. Hwang, “Design of System-in-the-Loop Test System for Unmanned Autonomous System,” KIMST Proceedings of Annual Conference, pp.1629-1630, 2023.
  • S. Chung, “A Study on the Methodology for Developing High-Risk Scenarios for the Validation of Autonomous Vehicles,” Transactions of KSAE, Vol.32, No.3, pp.301-308, 2024. [https://doi.org/10.7467/KSAE.2024.32.3.301]
  • S. H. Hwang, S. D. Yeo and H. S. Tae, “Real-Time Point Cloud Weather Augmentation Method for Autonomous System Test & Evaluation,” KIMST Proceedings of Annual Conference, pp.312-313, 2023.
  • H. S. Cho, Y. J. Park, M. Park and J. Son, “Study on Designing Scenarios to Evaluate Adverse Condition Positioning for Highly Reliable Autonomous Driving,” Transactions of KSAE, Vol.31, No.12, pp.1021-1037, 2023. [https://doi.org/10.7467/KSAE.2023.31.12.1021]
  • S. Riedmaier, J. Nesensohn, C. Gutenkunst, T. Düser, B. Schick and H. Abdellatif, “Validation of X-in-the-Loop Approaches for Virtual Homologation of Automated Driving Functions,” Proceedings of the 11th Graz Symposium Virtual Vehicle, pp.1-12, 2018.
  • S. Riedmaier, D. Schneider, D. Watzenig, F. Diermeyer and B. Schick, “Model Validation and Scenario Selection for Virtual-Based Homologation of Automated Vehicles,” Applied Sciences, Vol.11, No.1, p.35, 2020. [https://doi.org/10.3390/app11010035]
  • S. Riedmaier, T. Ponn, D. Ludwig, B. Schick and F. Diermeyer, “Survey on Scenario-Based Safety Assessment of Automated Vehicles,” IEEE Access, Vol.8, pp.87456-87477, 2020. [https://doi.org/10.1109/ACCESS.2020.2993730]
  • X. Che, C. Li and Z. Zhang, “A Test Method for Self-Driving Vehicle Based on Mixed Reality,” IEEE International Conference on Smart Internet of Things(SmartIoT), pp.401-405, 2021. [https://doi.org/10.1109/SmartIoT52359.2021.00075]
  • R. H. Rasshofer, M. Spies and H. Spies, “Influences of Weather Phenomena on Automotive Laser Radar Systems,” Advances in Radio Science, Vol.9, pp.49-60, 2011. [https://doi.org/10.5194/ars-9-49-2011]
  • D. Ferguson, M. Darms, C. Urmson and S. Kolski, “Detection, Prediction and Avoidance of Dynamic Obstacles in Urban Environments,” IEEE Intelligent Vehicles Symposium, pp.1149-1154, 2008. [https://doi.org/10.1109/IVS.2008.4621214]
  • H. Schafer, A. Hach, M. Proetzsch and K. Berns, “3D Obstacle Detection and Avoidance in Vegetated Off-Road Terrain,” Proceedings of the IEEE International Conference on Robotics and Automation(ICRA 2008), pp.923-928, 2008. [https://doi.org/10.1109/ROBOT.2008.4543323]
  • R. B. Rusu, “Semantic 3D Object Maps for Everyday Manipulation in Human Living Environments,” KI-Kunstliche Intelligenz, Vol.24, pp.345-348, 2010. [https://doi.org/10.1007/s13218-010-0059-6]
  • R. H. Rasshofer and K. Gresser, “Automotive Radar and Lidar Systems for Next Generation Driver Assistance Functions,” Advances in Radio Science, Vol.3, pp.205-209, 2003. [https://doi.org/10.5194/ars-3-205-2005]
  • Velodyne Lidar, https://velodynelidar.com/products/hdl-64e/#downloads, , 2023.
  • C. F. Bohren and D. R. Huffman, Absorption and Scattering of Light by Small Particles, John Wiley & Sons, New York, 1998. [https://doi.org/10.1002/9783527618156]
  • C. W. Ulbrich and D. Atlas, “Extinction of Visible and Infrared Radiation in Rain: Comparison of Theory and Experiment,” Journal of Atmospheric and Oceanic Technology, Vol.2, No.3, pp.331-339, 1985. [https://doi.org/10.1175/1520-0426(1985)002<0331:EOVAIR>2.0.CO;2]
  • S. Hasirlioglu, I. Doric, C. Lauerer and T. Brandmeier, “Modeling and Simulation of Rain for the Test of Automotive Sensor Systems,” IEEE Intelligent Vehicles Symposium(IV), pp.286-291, 2016. [https://doi.org/10.1109/IVS.2016.7535399]
  • A. Filgueira, H. Gonzalez-Jorge, S. Laguela, L. Diaz-Vilarino and P. Arias, “Quantifying the Influence of Rain in LiDAR Performance,” Measurement, Vol.95, pp.143-148, 2017. [https://doi.org/10.1016/j.measurement.2016.10.009]
  • S. Choi and S. Yoon, “Lidar Point Cloud Analysis Considering Backscattering Occurred in Rain Environment,” KSAE Fall Conference Proceedings, pp.996-997, 2022.
  • B. Wang and J. Lin, “Monte Carlo Simulation of Laser Beam Scattering by Water Droplets,” International Symposium on Photoelectronic Detection and Imaging 2013, Vol.8905, pp.726-733, 2013. [https://doi.org/10.1117/12.2035033]
  • V. Kilic, D. Hegde, V. A. Sindagi, A. B. Cooper, M. A. Foster and V. M. Patel, “LiDAR Light Scattering Augmentation(LISA): Physics-Based Simulation of Adverse Weather Conditions for 3D Object Detection,” arXiv preprint arXiv: 2107.07004, , 2021.
  • M. Hahner, C. Sakaridis, D. Dai and L. V. Gool, “Fog Simulation on Real LiDAR Point Clouds for 3D Object Detection in Adverse Weather,” IEEE International Conference on Computer Vision (ICCV), pp.15283-15292, 2021. [https://doi.org/10.1109/ICCV48922.2021.01500]
  • C. Goodin, D. Carruth, M. Doude and C. Hudson, “Predicting the Influence of Rain on Lidar in ADAS,” Electronics, Vol.8, No.1, p.89, 2019. [https://doi.org/10.3390/electronics8010089]
  • A. Geiger, P. Lenz, C. Stiller and R. Urtasun, “Vision Meets Robotics: The KITTI Dataset,” The International Journal of Robotics Research, Vol.32, No.11, pp.1231-1237, 2013. [https://doi.org/10.1177/0278364913491297]
  • C. Dannheim, C. Icking, M. Mäder, and P. Sallis, “Weather Detection in Vehicles by Means of Camera and LiDAR Systems,” Proceedings of the 2014 Sixth International Conference on Computational Intelligence, Communication Systems and Networks(CICSyN), Tetova, Macedonia, pp.186-191, 2014. [https://doi.org/10.1109/CICSyN.2014.47]
  • P. A. Lewandowski, W. E. Eichinger, A. Kruger and W. F. Krajewski, “LiDAR-Based Estimation of Small-Scale Rainfall: Empirical Evidence,” Journal of Atmospheric and Oceanic Technology, Vol.26, pp.656-664, 2009. [https://doi.org/10.1175/2008JTECHA1122.1]
  • R. Heinzler, F. Piewak, P. Schindler and W. Stork, “CNN-Based LiDAR Point Cloud De-Noising in Adverse Weather,” IEEE Robotics and Automation Letters, Vol.5, No.2, pp.2514-2521, 2020. [https://doi.org/10.1109/LRA.2020.2972865]

Fig. 1

Fig. 1
LiDAR signal augmentation in virtual adverse weather

Fig. 2

Fig. 2
Random generation of particles within laser beam

Fig. 3

Fig. 3
Particle characteristic distribution in a rainfall rate of 10 mm/h at Rmax

Fig. 4

Fig. 4
Data flow of real-time LiDAR signal augmentation

Fig. 5

Fig. 5
LiDAR signal augmentation in rainfall

Table 1

Augmentation weather point table

Particle index 1 2 ... lmax
(=10000)
Object distance
Δr : Incremental distance
Rmin (Rl1,Pl1) (Rl2,Pl2) (Rlmax,Plmax)
Rmin+Δr (Rl1,Pl1) (Rl2,Pl2) (Rlmax,Plmax)
Rmin+2Δr (Rl1,Pl1) (Rl2,Pl2) (Rlmax,Plmax)
...
Rmax (Rl1,Pl1) (Rl2,Pl2) (Rlmax,Plmax)

Table 2

Execution time comparison in rain conditions

Rainfall rate Execution time
(LISA)
Execution time
(Proposed method)
α, ρ, Λ N(D)
10 mm/h 488 ms 8.6 ms α : 0.0016
ρ : 1.33
Λ : 2.528
8000 × exp(-2.53D)
50 mm/h 497 ms 8.8 ms α : 0.0043
ρ : 1.33
Λ : 1.803
8000 × exp(-1.8D)
100 mm/h 511 ms 8.7 ms α : 0.0067
ρ : 1.33
Λ : 1.559
8000 × exp(-1.56D)

Table 3

Execution time comparison in snow conditions

Snowfall rate Execution time
(LISA)
Execution time
(Proposed method)
α, ρ, Λ N(D)
10 mm/h 489 ms 8.6 ms α : 0.0053
ρ : 1.31
Λ : 0.844
1025 × exp(-0.84D)
50 mm/h 494 ms 8.7 ms α : 0.01
ρ : 1.31
Λ : 0.39
253 × exp(-0.39D)