서론: 상향식 지식 그래프 구축 이해

지식 그래프(Knowledge Graphs, KGs)는 개체(Entities)와 관계(Relations)가 노드(Nodes)와 엣지(Edges)로 표현되는 그래프 구조를 통해 상호 연결된 정보를 조직화하는 구조화된 지식 표현 방식이다1. 이러한 지식 그래프는 실제 세계의 사실과 그 관계를 구조화된 방식으로 나타내어 인공 지능 시스템의 사실적 지식과 추론 능력을 향상시키는 데 중요한 역할을 한다2. 비정형 데이터에서 핵심 개체, 관계 및 패턴을 식별하여 고급 의미 분석, 추론 및 추론을 가능하게 한다5. 또한, 지식 그래프는 다양한 구조적 및 비구조적 소스의 복잡하고 이질적인 데이터를 효율적으로 구성하고 통합하여 보다 포괄적이고 확장 가능한 지식 관리 접근 방식을 제공한다6.

지식 그래프를 구축하는 방법에는 크게 상향식(Bottom-Up) 방식과 하향식(Top-Down) 방식이 있다7. 하향식 구축은 미리 정의된 온톨로지(Ontology)와 스키마(Schema)로 시작하여, 이 기존 지식 베이스에 지식 인스턴스를 연결하는 방식으로 진행된다. 이 방식은 정확한 도메인 온톨로지를 강조하며, 구조화되고 통제된 데이터 표현 시나리오에 적합하다. 하지만, 미리 정의된 온톨로지가 경직되어 빠르게 변화하는 데이터에는 적합하지 않을 수 있다는 단점이 있다7. 반면, 상향식 구축은 다양한 데이터 소스에서 개체와 관계를 추출하고, 추출된 데이터를 기반으로 스키마 또는 온톨로지를 개발한다. 새로운 개체 유형과 관계가 발견됨에 따라 온톨로지는 점진적으로 발전하며, 웹 콘텐츠, 과학 문헌, 소셜 미디어 등 다양한 데이터 소스에서 지식을 추출하는 데 유용하며 대량의 데이터를 빠르게 처리하여 광범위한 지식 그래프를 생성할 수 있다. 그러나, 이 방식에서는 개체와 관계에 대한 적절한 합리적 주장과 표현을 보장하는 것이 과제이며, 종종 도메인 전문가의 입력이 필요하다7. 상향식 접근 방식은 먼저 특정 데이터를 추출한 다음, 해당 데이터 내용을 요약, 정제 및 추상화하여 개념 스키마 계층으로 끌어올리는 방식으로 진행된다10. 전통적인 상향식 구축은 자연어 처리 모델을 훈련하여 명명된 개체 인식(Named Entity Recognition, NER) 및 관계 추출(Relation Extraction, RE)과 같은 작업을 수행하는 데 상당한 수동 노력이 필요했다11.

최근에는 대규모 언어 모델(Large Language Models, LLMs)이 자연어 이해 및 생성 능력에서 놀라운 발전을 보여 지식 그래프 생성(Knowledge Graph Creation, KGC)을 자동화하는 데 중요한 역할을 하고 있다1. LLM 기반 KGC 방법은 다양한 프롬프트 기반 기술을 활용하여 개체-관계 트리플(Entity-Relation Triples)을 생성한다1. LLM은 사전 정의된 레이블 없이 비정형 텍스트에서 직접 개체와 관계를 추출할 수 있으며12, GraphRAG와 같은 프레임워크는 LLM이 생성한 지식 그래프를 사용하여 복잡한 정보에 대한 질의응답 성능을 향상시킨다3.

상향식 접근 방식에서 온톨로지 정의

온톨로지는 특정 도메인 내의 지식을 표현하는 형식적이고 체계적인 방법으로, 개념과 그들 간의 관계를 포함한다14. 여기에는 객체와 그 속성, 그리고 그들의 상호 작용을 규정하는 규칙과 제약 조건이 명시되어 있다14. 지식 그래프에서 온톨로지는 개체의 클래스, 속성 및 관계를 정의한다4.

상향식 프로세스에서는 온톨로지가 데이터에서 추출된 개체와 관계를 기반으로 개발된다7. 이 프로세스는 지식 획득(추출), 통합(개체 정렬, 온톨로지 구축), 저장 및 검색을 포함한다7. LLM은 입력 텍스트를 기반으로 스키마를 동적으로 추론하여 복잡한 사전 정의된 스키마의 필요성을 없앨 수 있다15. LLM 기반 상향식 구축에서 추출된 “스키마”는 초기에는 텍스트 청크에서 식별된 노드 유형 목록으로 형성될 수 있다5.

상향식 온톨로지 개발은 반복적인 특성을 가진다8. 온톨로지는 데이터에서 새로운 개체 유형과 관계가 발견됨에 따라 점진적으로 발전한다7. LLM은 누락된 개념을 식별하고 관계를 제안하여 기존 온톨로지를 정제하고 확장하는 데 도움을 줄 수 있다16.

대규모 언어 모델을 활용한 온톨로지 유도

LLM은 텍스트 데이터에서 개체와 관계를 추출하는 데 탁월한 능력을 보인다12. LLM은 텍스트 주변의 문맥을 기반으로 개체를 식별하고(문맥 기반 개체 인식), 자연어 문맥과 의미를 이해하여 명시적으로 언급되지 않은 개체 간의 암시적 관계를 추론할 수 있다(관계 추론). 또한, LLM은 프롬프트를 통해 개체와 그 관계를 포함하는 구조화된 데이터(예: JSON)를 직접 출력하도록 지시할 수 있다11. 일반적인 프롬프트를 사용하여 개체와 관계를 식별하는 기술이 사용될 수 있으며11, 프롬프트에 예시를 제공하면 구조화된 정보 추출에서 LLM의 성능을 향상시킬 수 있다11.

LLM에 프롬프트를 사용하여 온톨로지 구성 요소(개체 유형, 관계 유형)를 추론하거나 생성하는 다양한 기술이 존재한다. LLM은 설명 생성 능력을 활용하여 스키마 구성 요소를 정의하는 데 사용될 수 있으며1, 프롬프트는 LLM이 특정 유형의 개체와 관계를 추출하도록 안내할 수 있다12. 반복적인 프롬프트 전략은 온톨로지의 여러 부분을 생성한 다음 결합하는 데 도움이 될 수 있으며16, 검증 프롬프트는 LLM이 제안한 관계의 정확성을 확인하는 데 사용될 수 있다16.

LLM을 사용한 스키마 정의 및 정규화에는 추출된 트리플을 표준화하는 과정이 포함된다1. LLM은 추출된 트리플을 기반으로 스키마를 자체 생성할 수 있으며1, 노드 레이블과 관계를 표준화하여 그래프 스키마를 통합하는 데 사용될 수 있다15. LLM을 사용한 개체 명확화는 중복된 개체를 병합하고 스키마의 일관성을 유지하는 데 도움이 된다5.

AutoKG와 같은 접근 방식은 LLM의 내재된 지식을 활용하여 KG의 구축 및 추론 프로세스를 자동화하며, 여러 에이전트가 반복적인 대화를 수행한다17. LLM은 KG 구축을 향상시키는 가상 지식 추출을 용이하게 한다17.

상향식 지식 그래프에서 온톨로지의 진화

새로운 데이터가 수집됨에 따라 LLM에 프롬프트를 사용하여 새로운 개체와 관계를 추출하고 KG를 업데이트함으로써 온톨로지를 발전시킬 수 있다18. 상향식 프로세스에서 온톨로지는 데이터에서 새로운 개체 유형과 관계가 발견됨에 따라 진화한다7. LLM은 데이터 세트 내에서 주제와 의미론적 개념을 식별하여 새로운 개체 유형과 관계의 발견을 이끌 수 있다13.

스키마 진화를 처리하고 일관성을 유지하기 위한 전략에는 반복적인 정제 프로세스가 포함되어 지식 그래프와 진화하는 온톨로지의 품질을 유지하는 데 도움이 된다2. 그래프 스키마 통합은 노드 레이블과 관계를 표준화하여 깨끗하고 논리적인 구조를 유지한다15. 평생 지식 그래프 학습 기술을 통해 LLM은 새로운 정보에 따라 지식 그래프를 지속적으로 조정하고 확장할 수 있다2.

피드백 루프와 반복적 개선은 온톨로지 진화에 중요한 역할을 한다. 반복적인 프롬프트 전략은 초기 지식 추출의 한계를 극복하는 데 도움이 될 수 있으며19, 초기 추출 후 정제 단계를 통해 이전에 추출된 트리플과 관련 스키마 부분을 LLM에 제공할 수 있다1. AutoKG에서와 같이 LLM 에이전트 간의 반복적인 대화는 지식 추출을 정제하는 데 기여한다17.

LLM을 사용하여 상향식으로 온톨로지를 정의할 때의 과제 및 고려 사항

LLM을 사용하여 상향식으로 온톨로지를 정의하는 것은 여러 가지 과제를 수반한다. 추출된 데이터에는 노이즈와 불일치가 있을 수 있으며19, LLM은 부적절한 형식의 트리플을 생성할 수 있다4. 개체 이름의 불일치를 처리하려면 개체 명확화가 중요하다5.

기본 LLM은 전문 용어와 문맥에 대한 깊은 이해가 필요한 도메인별 문서에 어려움을 겪을 수 있다19. LLM의 지식은 훈련 시점에 고정되어 있어 도메인별 전문 지식과 새로운 정보 처리에 한계가 있다20. 지식 그래프는 LLM의 이러한 지식 격차를 메우기 위해 외부의 최신 정보에 대한 접근을 제공할 수 있다21.

LLM은 특히 감독 없이 KG 구축에 사용될 때 거짓 또는 왜곡된 정보(환각)를 생성하기 쉽다3. 사실적 정확성을 보장하려면 모델과 KG 모두에 대한 지속적인 검증 및 개선이 필요하다18.

상향식 구축에서 적절한 합리적 주장과 표현을 보장하려면 종종 도메인 전문가의 입력이 필요하며7, LLM이 생성한 온톨로지의 정확성과 완전성을 검증하는 데 도메인 전문가가 여전히 필수적이다16. 고품질 개발 및 유지를 위해서는 인간 참여형 지식 그래프 큐레이션이 중요하다2.

예시 및 사례 연구

GraphRAG는 LLM을 사용하여 개인 데이터 세트에서 지식 그래프를 생성하여 질문 응답 성능을 향상시킨다3. 엔터프라이즈 데이터(이메일, 캘린더 등)에서 사용자 중심 활동 지식 그래프를 구축하기 위한 프레임워크는 LLM을 사용하여 개체 추출 및 관계 추론을 수행한다23. LLM은 학술 연구 데이터 세트에서 지식 그래프를 구축하는 데 사용되었으며, 트리플 추출의 정확성을 향상시키기 위해 미세 조정이 포함되었다4. LLM Knowledge Graph Builder는 문서를 전처리하고 개체와 관계를 추출하며, 선택적으로 제공된 그래프 스키마를 사용한다24.

GraphRAG는 기본 RAG가 놓친 쿼리에서 개체(“Novorossiya”)를 발견하여 LLM이 새로운 정보를 식별하고 KG에 통합하는 능력을 보여주었다13. 사용자 중심 활동 KG를 위한 프레임워크는 작업 우선 순위 지정 및 회의 준비와 같은 워크플로 개선에 효과적인 것으로 입증되었다23.

상향식 대 하향식 온톨로지 정의: 비교 분석

특징하향식 구축상향식 구축
온톨로지 정의사전 정의됨데이터에서 생성됨
데이터 소스일반적으로 구조화되고 통제됨비구조적 및 반구조적 데이터를 포함한 다양한 소스
유연성경직될 수 있음유연하고 적응 가능함
데이터 양알려진 개체가 있는 특정 도메인에 적합함대량의 데이터를 처리할 수 있음
인간 노력온톨로지 설계에 높은 초기 노력 필요데이터 추출 및 온톨로지 구축에 노력이 분산됨
최적 사용 사례기업 지식, 의료, 금융, 연구 등 구조화된 데이터 표현웹 콘텐츠, 과학 문헌, 소셜 미디어 분석 등 다양한 소스
LLM 역할주로 사전 정의된 스키마를 채우는 데 사용됨개체/관계 추출 및 스키마 유도에 중요함

상향식 접근 방식은 데이터 중심적이며, 스키마가 데이터에서 발견된 패턴을 반영하는 창발적 프로세스이다. LLM은 비정형 텍스트에서 패턴과 관계를 식별하는 능력으로 인해 지식 추출의 초기 단계를 효과적으로 수행하여 온톨로지 형성을 주도함으로써 이 프로세스를 용이하게 한다. 반복적인 특성은 온톨로지가 정적이지 않고 더 많은 데이터가 처리됨에 따라 성장하고 적응한다는 것을 의미한다. 반면, 하향식 접근 방식은 스키마 중심적이며, 일관성과 구조가 가장 중요하고 도메인에 대한 명확한 이해가 존재할 때 선호된다.

LLM 기반 지식 그래프 구축 도구 및 프레임워크에서 온톨로지 정의

LLM Knowledge Graph Builder는 선택적으로 제공된 그래프 스키마를 사용할 수 있지만, 사전 정의된 스키마 없이 KG를 구축하는 것도 지원하므로 온톨로지 발생에 대한 상향식 접근 방식을 암시한다1. 이 도구는 LLM을 사용하여 개체와 그 관계를 추출하여 데이터 기반 온톨로지 정의에 기여한다24. GraphJudger는 다른 LLM이 생성한 트리플의 정확성을 판단하기 위해 LLM을 사용하는 프레임워크로, 지식 그래프를 정제하는 데 중점을 두지만 암묵적으로 온톨로지 품질에 기여한다19.

EDC(프레임워크)에는 관련 스키마 구성 요소를 검색하는 스키마 검색기가 포함되어 LLM이 온톨로지를 정의하는 데 지침을 제공할 수 있다1. LLM Knowledge Graph Builder에는 노드 레이블과 관계를 표준화하여 발생하는 온톨로지를 정제하는 그래프 스키마 통합 단계가 포함되어 있다15. 이러한 도구 내의 사후 처리 단계는 LLM의 추출에서 발생하는 온톨로지를 정제하는 데 중요하다.

결론: 주요 통찰력 및 향후 방향

LLM을 사용한 상향식 온톨로지 정의는 데이터에서 지식을 추출하고 구조화하는 데 강력한 접근 방식을 제공한다. 이 방법은 특히 대규모의 비정형 데이터 세트와 빠르게 진화하는 도메인에서 유용하다. LLM은 개체 및 관계 추출을 자동화하고 스키마를 유도하며 온톨로지가 데이터와 함께 발전할 수 있도록 지원하는 데 중요한 역할을 한다. 그러나, 추출된 데이터의 노이즈, 도메인별 정확성, LLM 환각과 같은 과제를 해결하기 위해서는 지속적인 연구와 개발이 필요하다. 인간의 감독과 검증은 LLM 기반 상향식 온톨로지의 품질과 신뢰성을 보장하는 데 필수적이다.

향후 연구 방향에는 LLM의 성능을 향상시키기 위한 프롬프트 엔지니어링 기술 개선, 도메인별 지식 통합을 위한 방법 개발, 환각 및 편향을 완화하기 위한 전략 탐색, 그리고 상향식으로 구축된 온톨로지의 평가 및 검증을 위한 메트릭 및 프레임워크 개발 등이 포함될 수 있다. 또한, 여러 LLM 에이전트 간의 협업을 활용하는 AutoKG와 같은 접근 방식은 온톨로지 구축 프로세스를 더욱 자동화하고 개선할 수 있는 잠재력을 보여준다. 전반적으로, LLM을 사용한 상향식 온톨로지 정의는 지식 그래프 구축 분야에서 유망한 연구 분야이며, 지속적인 발전은 더욱 강력하고 유연한 지식 관리 솔루션으로 이어질 것이다.