BSR 소음에 대한 정량적 평가는 Zwicker Loudness를 기반으로 계산되었다. 데이터는 총 136개의 서로 다른 단일 시트 모델에 대해 9개의 위치(P1 ~ P9)에서 마이크로폰을 이용하여 계측하였다. 따라서 총 1224개의 데이터셋을 확보하였다.

본 연구에서는 실험을 통해 Loudness N10의 정량적 예측을 위한 다양한 음질 및 음향 데이터를 확보하였다. 실험은 모두 BSR에 대한 정량적 지표 도출을 위해 동일 방법으로 수행되었다. 무소음 가진기는 30 dB(A)이하의 소음이 발생되며, 최대 Payload 350 kg, 주파수 범위는 1-200 Hz까지 측정 가능하고, 최대 변위는 25 mm이다. 필터는 300 Hz high pass 필터를 사용하였다. 물리량은 총 10가지 방법을 통해 계산되었으며 모두 상위 10 % 위치에서 최하위 레벨(N10)을 기준으로 하였다.

음질 및 음향 물리량은 Loudness(M1), 3rd octave(M2), Sound pressure level(M3), Fluctuation strength(M4), Roughness(M5), Sharpness(M6), Tonality(M7), Harmonic distortion(M8), Speech intelligibility index(M9), Articulation index(M10)로 총 10가지이다.

통계 분석 이전에 데이터 간의 직관적인 분석을 위해 각 데이터는 최소-최대 정규화가 수행되었다. 데이터 분석은 모든 데이터를 반영하여 분석되지만, 논문의 가시성을 위해 표는 첫 번째 샘플에 대해 나타내었다. 정규화된 첫 번째 샘플은 Table 1에 나타냈다.

Fig. 2 
Experimental setup

유의미한 변수를 선정하는 것은 데이터 분석의 오류를 줄일 수 있는 효과적인 방법이다. 본 연구에서는 상관분석을 통해 Loudness 예측에 사용될 유의미한 변수를 선정하였다. 상관 분석은 변수간 선형관계의 존재 여부를 결정하여 선형성의 강도에 대한 통계적 분석의 결과를 제시한다. 상관분석의 진행 절차는 먼저 공분산 분석을 수행하여 변수간 연관성을 정의하고, 측정 단위에 관계없이 각 변수의 레벨에 따른 관계의 정도를 정의하게 된다.

공분산은 두 변수가 독립이 아닌 경우 변수들 간 연관성이 있음을 가정하여 연관성의 정도를 파악하게 된다. 연관성은 한 변수의 값이 증가되고 다른 변수 값이 증가되면 양의 연관성이 있고, 반대의 경우는 음의 연관성이 있음을 나타낸다. 또한 공분산이 0이면, 두 변수는 서로 독립된 변수임을 보여준다. 각 물리량에 대한 분산분석 결과는 Table 2에 나타냈다.

공분산 분석결과에 나타난 것과 같이 각 물리량은 독립적인 변수는 아님을 나타내고 있다. 공분산 분석은 앞서 언급했듯이 변수의 측정 단위 범위에 의존적이다. 따라서, 분산분석의 결과는 정규화된 물리량을 기반으로 표현되었다.

공분산 분석 결과는 정규화된 데이터 분석결과와 유사하게 레벨 기반의 물리량인 M2, M3와 변조 기반의 물리량인 M4가 0.07 이상의 연관성이 나타났다. 또한 BSR 소음은 음성관점에서 불명확한 신호이기 때문에 음성에 관한 지수와 부의 연관성이 높게 나타나는 것을 볼 수 있다. 공분산은 두 변수의 레벨에 따른 관계의 정도를 결과에 포함하지 않기 때문에 상관분석을 통해 두 변수에 대한 관계를 분석하였다. 다만, 앞선 공분산 분석의 결과는 레벨의 편차에 대한 오차를 최소화하기 위해 정규화를 기반으로 수행되었다. 따라서 상관분석의 결과는 정규화된 공분산 분석 결과와 유사한 특성을 나타냄을 알 수 있다. 결과는 Table 3에 나타냈다.

상관계수의 분석은 총 10개의 물리량에 대해 다중상관 분석을 통해 수행되었으며, 표본 상관계수의 의미는 변수간 선형 상관성을 나타낸다. 각 물리량에 대한 상관관계 분석의 결과는 음압 레벨과 관련된 물리량(M2:0.94, M3:0.96)이 가장 높은 선형 상관성을 나타내고 있으며, 변동강도(M4:0.79)가 3번째로 높은 선형 상관성을 나타내고 있다. 따라서, Loudness 추정은 음압레벨을 대표하는 Sound pressure level(M3)과 주파수의 특성을 일부 반영할 수 있는 Fluctuation strength(M4)로 선정하여 수행하였다.

회귀 모델은 모형이 복잡해질수록 학습 데이터를 상세하게 묘사할 수 있지만 학습에 사용하지 않은 새로운 데이터에 대한 정확한 예측이 어려워지는 과적합 문제가 발생할 수 있다. 회귀 모델은 전체 모집단에서 추출된 표본집단을 활용하여 모델링된다. 따라서, 회귀 모델은 전체 모집단의 모든 특성을 완벽하게 표현할 수 없으며, 경우에 따라 편향된 특성만을 반영하는 모델이 만들어질 수 있다. 이러한 문제는 K겹 교차검증 방법을 사용하여 표본집단의 데이터베이스를 학습데이터와 평가데이터로 적절하게 구분하여 회귀 모델을 구축하고 평가함으로서 모델의 예측 정확성을 높일 수 있다.

K겹 교차검증 방법은 Fig. 3에 도식화 하였고, 평가방법은 Fig. 4에 나타냈다. 진행절차는 다음과 같다.

• ① 표본집단을 K개의 부분집단으로 무작위 분할
• ② i=1, ..., K 일 때, 각 I에 대해 i번째 그룹을 제외한 나머지 k-1개 그룹의 자료를 바탕으로 회귀식 도출
• ③ i번째 그룹을 이용하여 ②번에서 도출된 회귀식의 예측오차 도출
• ④ 각 i에 대하여 ②, ③번 과정을 반복 수행
• ⑤ K개의 절대오차의 평균을 기준으로 모형 평가

Fig. 3 
K-fold cross validation method

Fig. 4 
Evaluation of 5-fold cross validation data set

K의 개수는 회귀 모델의 편향(Bias) 및 분산(Variance) 오차의 균형(Trade off)을 위해 통상적으로 5 또는 10을 사용한다.¹⁴⁾

회귀 모델의 모형이 비선형적인 경향을 가지면 선형 모델의 예측력이 제한될 수 있다. 이러한 경우에는 비선형 모델을 사용하면 더 정확한 예측을 할 수 있는 경우가 있다. 그러나 비선형 모델이 항상 선형 모델보다 우수한 것은 아니며 데이터의 형태에 따라 달라질 수 있어 선형과 비선형 모델의 비교를 통해 최적 모델을 선택하는 것이 중요하다. 본 연구에서는 다중 선형 회귀 방법과 다중 비선형 회귀 방법의 비교를 통해 최종 모델을 선택하였다.

머신러닝은 데이터 기반으로 수행되기 때문에 정확성 향상을 위해서는 많은 양의 데이터 확보는 필연적이다. 정확성을 향상시키는 일반적인 방안은 네트워크의 깊이며, 정교한 하이퍼 파라미터의 튜닝을 통해 최적화된 모델이 구성될 수 있다. 순방향 신경망 또는 다중 퍼셉트론으로 알려진 심층신경망(DNN)은 2개 이상의 히든 레이어를 포함하는 신경망이다.^16-19) Fig. 5와 같이 심층 신경망은 입력차원이 3개이며, 히든 레이어의 뉴런은 5개로 표현되었다. 히든 레이어 출력은 식 (6)과 같이 표현된다.

Fig. 5 
Structure of the traditional DNN model

여기서, zi1 히든 레이어1의 i번째 뉴런의 출력이다. σ는 활성화 함수이며, 일반적으로 ReLU 가 사용된다.^20,21) wi,j0는 j번째 입력에 대한 히든 레이어 1의 i번째 뉴런 사이의 연결된 가중치이다. 또한 bi0는 히든 레이어 1의 i번째 뉴런의 바이어스이다. k-1 레이어에 n개의 뉴런이 있다고 가정하였을 때, 레이어 k의 i번째 뉴런의 출력은 식 (7)과 같이 계산된다.

신경망의 순방향 신경망은 입력 레이어에서 시작하여 출력 레이어의 결과까지 이전 레이어의 출력을 사용하여 계산한다. 신경망은 손실함수를 사용하여 모델의 예측 값과 실제 값의 편차를 측정하고, 모델의 예측값이 점차 실제 값에 가까워지도록 경사하강법을 사용하여 각 레이어의 가중치와 바이어스를 업데이트한다. K 번째 레이어에 대한 회귀의 손실함수는 식 (8)과 같이 계산된다.

여기서, z^K는 심층 신경망 모델의 예측값이고 y는 실제 값이다. 손실함수의 기울기는 식 (9), (10)과 같이 계산될 수 있다. 여기서, ⊙는 Hadamard 곱을 의미한다.

Inactive 출력을 식 (11)로 가정하면, K번째 레이어 출력 z^K의 Inactive 출력은 식 (12)와 같이 전개할 수 있다.

이후 손실 함수의 기울기는 식 (13), (14)와 같이 변환될 수 있다.

여기에서, δ^k과 δ^k+1의 관계는 식 (15)와 같이 얻을 수 있다.

k번째 레이어의 가중치와 바이어스 변화는 경사하강법에 의해 식 (16), (17)과 같이 정의할 수 있다.

여기서, α는 스텝 사이즈를 의미하고, 경사하강법을 이용한 최적화함수는 SGD, RMSprop, Adam 등이 있다.^22-24) 본 연구는 파라미터에 대한 최적화 연구가 아니기 때문에 아키텍처를 비교적 단순하게 구성하였고, 사용된 최적화 함수는 Adam을 사용하였다. Loudness 예측모델은 Table 4에 나타냈다.

활성화 함수는 ReLu 함수를 사용하였고, 최적화 함수는 Adam 최적화로 정의하였다. 최적화 함수의 학습률은 0.001로 설정하였다. 초기 가중치는 수렴성 문제 및 지역 최적화 문제를 발생을 최소화 할 수 있는 Xavier initialization, He initialization 등 다양한 방법이 개발되었다.^25,26) 그러나 현재 고려하는 문제는 머신러닝 관점에서 상대적으로 단순한 예측 문제이기 때문에 초기화 문제에 대해 고려하지 않았다.

데이터 셋 분할은 일반적으로 학습 데이터 셋, 검증 데이터 셋, 테스트 데이터 셋으로 총 3개의 파트로 분할된다. 학습에 사용된 데이터셋은 Table 5에 나타냈다. 학습은 데이터의 순서도 영향을 크게 미치기 때문에 데이터 셔플을 수행하여 순차적 데이터에 대한 과적합 문제를 방지하였다. 입력 데이터는 각 데이터의 크기로 인한 오류를 없애기 위해 표준화가 수행되었다. 총 학습은 1,000회 수행하였으며, 학습 종료는 20번 학습 시 오차에 대한 개선이 없으면 실행을 종료시키는 Early stopping을 적용하였다.

회귀 모델은 2.3절에서 언급한 것과 같이 5겹 교차검증을 통해 평균 절대오차(Mean absolute error)가 가장 낮은 모델로 선택되었다. 독립변수는 음압레벨(Sound pressure level)과 변동 강도(Fluctuation strength)이며, 최종 선택된 회귀식의 결과는 다음과 같다.

최종 선택된 선형 회귀식의 계수는 식 (18)에 나타냈으며, y는 라우드니스(Loudness), x₁은 음압레벨(Sound pressure level), x₂는 변동 강도(Fluctuation strength)이다.

F 통계량은 회귀모델의 유의성을 판단하는 지표이며 유의수준의 기준은 0.05이하의 값을 사용한다. 결정계수(R²)는 회귀모델의 설명력을 나타내며 1에 가까운 값일수록 높은 설명력을 갖는다. 식 (18)의 F 통계량은 0.05이하의 값으로 나타났으며, 결정계수는 0.8로 나타나 회귀식의 유의성 및 적합성을 확인하였다. P-값 검정의 유의수준은 두 가지 변수 모두 0.05 이하의 값을 나타내어 회귀 계수의 유의성을 확인하였다. 검증 데이터에 대한 식 (18)의 평균 상대오차는 41.5 %로 확인되었다.

Fig. 6과 같이 다중 선형 모델의 결과는 실제 Loudness N10 값인 솔리드 라인의 결과와 비교하여 Loudness N10 예측 값인 포인트는 상대적으로 오차가 매우 크게 나타났다. 따라서 다중 선형 모델은 Loudness 추정에서 적합하지 않은 모델로 고찰되며, 비선형 모델을 통한 회귀식을 다음과 같이 도출하였다. 비선형 모델의 회귀식 계수는 식 (19)에 나타내었다.

Fig. 6 
Prediction error by linear regression ; Ture value : solid line(-), Prediction : dot (⋅)

F 통계량의 유의수준은 0.05 이하의 값으로 나타났으며, 또한 결정계수(R²)는 0.96로 나타나 회귀식의 유의성을 확인하였다. P-값 검정의 유의수준은 두 가지 변수 모두 0.05 이하의 값을 나타내어 회귀 계수의 유의성을 확인하였다. 검증 데이터에 대한 식 (19)의 평균 상대오차는 9.1 %로 확인되었다.

비선형 회귀식 기반의 결과는 Fig. 7에 나타냈으며, 선형 회귀식으로 추정한 예측결과 보다 상대적으로 높은 정확성을 나타낸다. 그러나 BSR의 정량적 평가 방법은 1 sone 범위 내에서 Fail/Pass가 결정되기 때문에 높은 정확성이 요구된다. 따라서 예측 모델은 더 정밀한 결과가 필요하기 때문에 심층신경망을 이용한 예측 모델을 구성하였다.

Fig. 7 
Prediction error by nonlinear regression ; Ture value : solid line(-), Prediction : dot (⋅)

Loudness 예측 결과는 K겹 교차검증과 동일한 데이터 기반으로 머신러닝을 이용하여 수행되었다. 두 결과 모두 오차는 Loudness 레벨이 높은 결과에서 상대적으로 큰 오차가 발생된다. 이 결과는 일반적으로 자동차 시트의 BSR 소음은 주로 10 sone 이하에서 발생되기 때문에 데이터가 Loundness가 낮은 영역에 군집되어 있는 것을 볼 수 있다. 다시 말해서 25 이상의 결과는 통계적 관점에서 이상치로 정의될 수 있다. 또한 제품 개발 규격 상 높은 레벨의 Loudness는 Fail로 분류되기 때문에 실질적으로 5 sone 근방의 데이터만 정확성이 요구된다.

홀드 아웃을 이용한 DNN 결과는 Fig. 8에 나타냈다. 비선형 회귀식으로 추정한 예측결과 보다 상대적으로 높은 정확도로 예측하고 있으며, 두 결과에 대한 절대 오차는 Fig. 9에서 나타냈다. 도출된 유의미한 인자로부터 Loudness N10을 예측하기 위해 본 연구에서는 Root mean squared error(RMSE)를 사용하였다. Fig. 9와 같이 절대 오차의 크기는 5번의 학습 평균 결과 상대적으로 K겹 교차검증 기반 비선형 회귀 방법은 0.82 수준의 오차가 나타냈다. 또한 평균 예측 오차의 산포도 상대적으로 크게 나타났다. 반면에 DNN 모델은 절대 오차의 차이가 평균 0.57 수준에서 나타났으며, 통계 기반의 K겹 교차검증에 비해 머신러닝 기반의 DNN은 약 30 % 수준의 높은 성능을 보였다.

Fig. 8 
Prediction error by DNN using hold out method ; Ture value : solid line(-), Prediction : dot (⋅)

Fig. 9 
Comparing performance of nonlineaer regression using K-fold cross validation and DNN using hold out

머신러닝은 일반적으로 과적합 문제 및 과소적합 문제만 발생하지 않는다면, 데이터의 개수가 모델의 성능에 크게 기여한다. BSR 실험은 개발의 최종 단계에서 실시되며, 모든 제품에 대한 결과를 확인할 수 없기 때문에 일부 제품에 대한 결과만 분석된다. 따라서 실제 실험 결과는 많은 수의 데이터를 확보하는 것은 매우 어렵다. 본 연구에서는 적은 데이터 수 기반의 강건한 예측 모델 설계를 위해 DNN 모델에 K겹 교차검증을 적용하여 성능을 분석하였다.

머신러닝은 앞선 결과에서 보듯이 일반적으로 홀드아웃 방법을 이용하여 데이터 셋을 분할한다. 그러나 홀드아웃 방법은 검증 데이터 셋으로 인해 상대적으로 적은 학습 데이터 셋이 구성된다. 다시 말해서 검증용 데이터는 학습에 사용할 수 없는 큰 단점을 갖는다. 적은 수의 데이터는 모델의 과적합 문제 및 과소적합 문제를 야기하기 때문에 데이터 증강이 필연적으로 요구된다. 따라서 제안된 모델은 K겹 교차검증을 DNN 모델에 적용하여 데이터 수에 대한 문제를 해결하고, 모든 데이터 추세를 포함하여 Loudness를 예측하고자 하였다. 사용된 모델의 K는 5로 정의하였다. 학습의 과정은 Fig. 10에서 보여준다.

Fig. 10 
Result of the experiment

학습 진행에 대한 결과는 대부분의 머신러닝 모델과 유사하게 Fig. 10의 (a), (b)에서 보듯이 초기에는 큰 Loss가 나타지만, 학습이 진행될수록 매우 빠르게 수렴하고 모델의 정확도가 상대적으로 높은 것을 볼 수 있다. K겹 교차검증을 적용을 적용한 DNN의 예측 결과는 Fig. 11에서 나타냈다. 예측 결과는 K겹 교차검증이 적용된 DNN 모델이 평균 0.113수준의 상대적으로 높은 정확도로 Loudness를 예측하였다. 또한 결과는 총 다섯 번의 실험 결과에서 모두 우수한 성능이 나타났다.

Fig. 11 
Comparing performance of hold out and k-fold