Work

GeoKBQA 성능 향상을 위한 트랜스포머 기반 자연어 개체 연결 모델 개발

Year: 2024
Type: dissertation
Abstract: 지식베이스 질의응답(Knowledge Base Question Answering, 이하 KBQA)은 자연어 처리, 정보 검색, 지식 표현, 언어학 등의 분야가 융합 된 기술로, 사용자는 SPARQL과 같은 쿼리 언어에 대한 지식 없이 지식 베이스(Knowledge Base, 이하 KB)로부터 정확한 답변을 추출할 수 있다. 그러나 KBQA 시스템은 해당 KB에 포함된 정보에 의존하기 때문에, KB에 존재하지 않는 사실이나 정보가 포함된 질문은 KBQA를 통해 답변을 추출할 수 없다. 이와 같은 단점을 해결하기 위해 지리공간 지식 베이스 질의응답(Geographic KBQA, 이하 GeoKBQA)은 지리공간 질문을 학습하고, 지리공간에 특화된 사실과 정보를 포함하는 지리공간 지식 베이스(GeoKB)를 사용하여 복잡한 지리공간 정보에 관한 질문에 응답할 수 있다. GeoKBQA 시스템의 성공적인 구현을 위해서는 자연어 개체 연결(Entity Linking) 과정이 필요하다. 자연어 개체 연결은 지리공간 질문에서 언급된 개체(Mention)를 식별(Detection)하고, 이들을 명확화 (Disambiguation)하여 GeoKB 내의 적절한 개체와 연결시키는 작업을 의미한다. 이 과정은 지리공간 정보의 정확성과 상세성이 중요한 GeoKBQA 시스템에서 핵심적인 역할을 수행한다. 그러나 기존의 GeoKBQA 연구는 핵심 요소인 자연어 개체 연결 과정을 rule-based 방식으로 수행하고 있다. 이 접근법은 문장을 품사(Part-Of-Speech)로 분리하여 개체를 식별하는데, 이는 문장의 문맥에 따른 개체의 의미를 정확히 파악하고 추출하는 데 추가 단계가 필요한 비효율적인 구조이다. 또한, 이러한 rule-based 구조는 각 연구에서 사용된 데이터셋에 의존하고 있어, 사용된 데이터셋 이외의 다른 데이터셋에는 적용될 수 없다. 마지막으로 일부 연구에서는 자연어 개체 연결의 중요한 단계인 Entity Disambiguation을 생략함으로써 자연어 질문의 오탈자나 약어를 효과적으로 처리하지 못하는 문제를 지니고 있다. 이러한 한계점을 해결하기 위해 본 연구에서는 트랜스포머(Transformer) 구조 기반 모델인 BERT(Bidirectional Encoder Representations from Transformers)와 ChatGPT(Generative Pre-trained Transformer)를 각각 학습하고 활용하여 지리공간 질문에서 언급된 개체를 탐지할 수 있는 두 가지 모델을 개발하였고, Entity Disambiguation 과정을 통해 GeoKB와의 연결을 구현하였다. 또한 1,000개의 평가 데이터와 기존 연구에 사용된 데이터셋을 사용하여 개발된 모델의 성능 평가를 시행하였다. 그 결과 평가 데이터에 대해 두 모델 모두 1점 만점에 0.86점 이상의 점수를 획득하였고, 기존의 연구에 사용된 데이터셋에 대해 기존 연구보다 1% 높은 90.55% 의 정확도를 기록하였다. 제안된 모델은 기존 GeoKBQA 연구의 세 가지 주요 한계점을 극복하였다. 첫째, 복잡한 rule-based 방식 대신, 모델 학습을 통해 추가적인 구조 없이 단어 의미 변화를 식별하고 추출할 수 있는 단순하면서도 효율적인 구조를 가진다. 둘째, 특정 데이터셋에 국한되지 않고 다양한 데이터셋에 적용 가능하다. 셋째, Entity Disambiguation 과정을 포함하여 자연어 질문의 오탈자나 약어에도 개체(Mention)를 명확히 인식하여 GeoKB 내의 개체와 연결할 수 있다. 따라서 본 연구에서 개발한 자연어 개체 연결 모델은 보다 간결한 구조를 사용함과 동시에 개선된 결과를 획득할 수 있으며 기존 GeoKBQA 시스템에 통합됨으로써 시스템의 전반적인 성능 개선을 기대할 수 있다. 주요어 : 지식 베이스, 지리공간 지식베이스 질의응답, 자연어 개체 연결, Mention Detection, Entity Disambiguation 학 번 : 2022-20890
Author: 양태주
Language: Korean
Open Access status: green
OpenAlex ID: W7028636254
Cites: 27
Cited by:
Related to: 10