A Comparative Performance Analysis of Vision Transformer Series Models for Pothole Detection
Year: 2025
Type: article
Abstract: 본 연구는 도로 안전 유지의 핵심 과제인 포트홀 자동 탐지를 위해 최신 딥러닝 아키텍처인 Vision Transformer의 적용 가능성을 탐색하고, 주요 ViT 계열 모델들의 성능을 비교 분석하는 것을 목표로 한다. 초기 포트홀 탐지 연구가 합성곱 신경망 기반 모델에 집중되었던 것과 달리, 본 연구는 이미지의 전역적인 컨텍스트를 효과적으로 학습하는 Transformer 구조에 주목하였다. 이를 위해 공개된 포트홀 이미지 데이터셋을 활용하여 ViT, DeiT, Swin Transformer 모델을 Tiny와 Base 크기별로 나누어 동일한 조건에서 학습시켰다. 각 모델의 성능은 분류 정확도를 나타내는 정확도와 모델의 판별 능력을 종합적으로 평가하는 ROC-AUC를 핵심 지표로 사용하여 정량적으로 평가하였다. 실험 결과, 지식 증류 기법이 적용된 DeiT(Base) 모델이 94.0%의 정확도와 98.1%의 ROC-AUC로 모든 비교 모델 중 가장 우수한 성능을 보였다. 이는 DeiT가 비교적 적은 양의 데이터셋에서도 높은 일반화 성능과 데이터 효율성을 가짐을 입증하는 결과이다. 본 연구의 결과는 향후 구축된 데이터셋의 규모나 시스템 요구 조건 등 다양한 상황에 맞는 최적의 Transformer 기반 탐지 모델을 선정하는 데 중요한 기초 자료로 활용될 것으로 기대된다.
Authors: Chul-Jin Kim, Seung-Yun Lee
Language: English
Subfield: Civil and Structural Engineering
Field: Engineering
Domain: Physical Sciences
Open Access status: diamond
OpenAlex ID: W7119517181