지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2024.6
- 수록면
- 211 - 224 (14page)
- DOI
- 10.13088/jiis.2024.30.2.211
이용수
초록· 키워드
오류제보하기
최근 대규모 언어 모델 (Large Language Models) 의 성능이 크게 향상됨에 따라 다양한 분야에서 생성형 AI 모델을 활용하여 텍스트를 처리하는 연구에 대한 관심이 높아지고 있다. 하지만 이러한 대규모 언어 모델은 텍스트 처리 능력은 우수하지만 검증되지 않은 지식을 생성하여 부정확한 답을 응답하는 환각 (hallucination) 현상이 나타날 수 있다. 대규모언어 모델의 답변 성능을 향상시키고 환각 현상을 줄이기 위해 최근에는 지식 그래프를 활용하여 대규모 언어 모델의 프롬프트로 활용하는 Knowledge Graph Question Answering 연구가 보고되었다. 이에 본 연구는 Knowledge Graph Question Answering의 답변 성능을 높이기 위해 Retrieval Augmented Generation 시스템을 활용한다. 우리는 전통적인 Retrieval Augmented Generation 시스템에 필터링 과정을 더하여 검색-필터링-생성 구조를 제안한다. 우리가 제안한 필터링 방법은 검색된 지식 중에서 실제로 질문과 관련이 없는 Noise를 제거하는 방식이다. 우리는 필터링을 통해 Noise가 제거된 지식을 대규모 언어 모델의 프롬프트로 활용함으로써 답변 성능을 향상시켰다. 결과적으로 추가적인 미세조정 없이 검색된 지식을 적절히 선별함으로 KGQA의 답변 성능이 향상될 수 있음을 입증하였다.
목차
1. 개요
2. 이론적 배경
3. 제안 방법
4. 실험
5. 결론
참고문헌(References)
Abstract
참고문헌 (33)
참고문헌 신청
Achiam, J., Adler, S., Agarwal, S., Ahmad, L., Akkaya, I., Aleman, F. L., ... & McGrew, B. (2023). Gpt-4 technical report. arXiv preprint arXiv:2303.08774.
Albert Q. Jiang, Alexandre Sablayrolles, Arthur Mensch, Chris Bamford, Devendra Singh Chaplot, Diego de las Casas, Florian Bressand, Gianna Lengyel, Guillaume Lample, Lucile Saulnier, Lélio Renard Lavaud, Marie-Anne Lachaux, Pierre Stock, Teven Le Scao, Thibaut Lavril, Thomas Wang, Timothée Lacroix, William El Sayed. (2023). Mistral 7B. arXiv preprint arXiv:2310.06825.
Baek, J., Aji, A. F., & Saffari, A. (2023). Knowledge-augmented language model prompting for zero-shot knowledge graph question answering. arXiv preprint arXiv:2306.04136.
Bollacker, K., Evans, C., Paritosh, P., Sturge, T., & Taylor, J. (2008, June). Freebase: a collaboratively created graph database for structuring human knowledge. In Proceedings of the 2008 ACM SIGMOD international conference on Management of data (pp. 1247-1250). https://doi.org/10.1145/1376616.1376746
Bordes, A., Chopra, S., & Weston, J. (2014). Question answering with subgraph embeddings. arXiv preprint arXiv:1406.3676.
Albert Q. Jiang, Alexandre Sablayrolles, Arthur Mensch, Chris Bamford, Devendra Singh Chaplot, Diego de las Casas, Florian Bressand, Gianna Lengyel, Guillaume Lample, Lucile Saulnier, Lélio Renard Lavaud, Marie-Anne Lachaux, Pierre Stock, Teven Le Scao, Thibaut Lavril, Thomas Wang, Timothée Lacroix, William El Sayed. (2023). Mistral 7B. arXiv preprint arXiv:2310.06825.
Baek, J., Aji, A. F., & Saffari, A. (2023). Knowledge-augmented language model prompting for zero-shot knowledge graph question answering. arXiv preprint arXiv:2306.04136.
Bollacker, K., Evans, C., Paritosh, P., Sturge, T., & Taylor, J. (2008, June). Freebase: a collaboratively created graph database for structuring human knowledge. In Proceedings of the 2008 ACM SIGMOD international conference on Management of data (pp. 1247-1250). https://doi.org/10.1145/1376616.1376746
Bordes, A., Chopra, S., & Weston, J. (2014). Question answering with subgraph embeddings. arXiv preprint arXiv:1406.3676.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
LLMs 기반 추론 경로 자가보완을 통한 KGQA 효율성 향상을 위한 연구
한국컴퓨터정보학회논문지
2024 .09
-
RGQA: Reasoning Guideline을 활용한 LLM 기반 KGQA
지능정보연구
2024 .06
-
그래프 기반 검색 증강 생성 기법을 통한 대형 언어 모델 정확도 향상 연구
한국정보과학회 학술발표논문집
2024 .12
-
대규모언어모델과 검색증강생성 기반 추천 시스템 프레임워크 제안 및 실증
대한인간공학회 학술대회논문집
2024 .11
-
대규모 언어 모델과 검색 증강 기법을 활용한 인간-로봇 상호작용 시스템
대한전자공학회 학술대회
2024 .06
-
Open Domain Question Answering using Knowledge Graph
Journal of KIISE
2020 .09
-
검색 증강 생성과 대규모 언어 모델을 이용한 메디컬 리포트 생성 기술 개발
한국정보과학회 학술발표논문집
2024 .12
-
그래프 기반 검색 증강 생성
한국정보과학회 학술발표논문집
2024 .12
-
대규모 언어모델(LLMs)을 활용한 지식 그래프 자동 생성 : 스키마 설계부터 데이터 매핑까지
한국정보과학회 학술발표논문집
2024 .12
-
국내 기업을 위한 RAG 구조 기반 질의응답시스템 설계
한국컴퓨터정보학회논문지
2024 .07
-
검색증강생성 기반 전력 분야 특화 거대언어모델 개발
대한전기학회 학술대회 논문집
2024 .07
-
연관지식의 효율적인 표현 및 추론이 가능한 지식그래프 기반 지식지도
지능정보연구
2021 .12
-
특허 지식그래프를 위한 지식 그래프 임베딩 모델 분석 연구
Proceedings of KIIT Conference
2020 .10
-
RAG(Retrieval-Augmented Generation) 시스템 구현을 위한 개방형과 폐쇄형 LLM(Large Language Model) 모델 간의 성능 비교에 관한 연구
한국통신학회 학술대회논문집
2024 .06
-
대규모 언어 모델에 기반한 질문 재작성을 활용한 검색증강 생성 시스템
한국정보과학회 학술발표논문집
2024 .06
-
지식 그래프 임베딩을 활용한 시각정보 기반 질의응답
한국정보과학회 학술발표논문집
2023 .06
-
외부 지식 베이스를 활용한 확장된 지식그래프 기반 추천 시스템
Proceedings of KIIT Conference
2023 .06
-
지식 그래프를 이용하는 자연어 구문정보 기반 질의응답 모델
한국정보과학회 학술발표논문집
2023 .06
-
Knowledge Completion System through Learning the Relationship between Query and Knowledge Graph
Journal of KIISE
2021 .06
-
지식기반 시각적 질의응답을 위한 관련성 심볼 그래프 모델
한국정보과학회 학술발표논문집
2024 .06
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-151-24-02-090061040