지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2024.3
- 수록면
- 10 - 15 (6page)
- DOI
- 10.5762/KAIS.2024.25.3.10
이용수
DBpia Top 5%동일한 주제분류 기준으로최근 2년간 이용수 순으로 정렬했을 때
해당 논문이 위치하는 상위 비율을 의미합니다.
초록· 키워드
오류제보하기
2023년의 1년은 인공지능 기술 발전 역사 50년보다 더 많은 변화가 있었다. 본 연구는 GPT-4.0의 주요 특징을 멀티 모달 기능, 언어 이해 및 처리, 성능, 정확성으로 분류하였다. GPT-4.0의 5가지 요인을 중심으로 거대언어모델의 취약점을 예방하고 해커 등의 침투 공격을 차단하는 기술/사회공학적 거버넌스 모델을 제시하였다. 본 연구는 거대언어 모델의 탈옥 사례를 대상으로 하였다. Bard, open-AI, MS-bing 등에서 개별 침투 공격과 탈옥 사이트를 분석하였다. 해당 연구 대상 소스를 얻은 사이트는 제일브레이크 챗(https://www.jailbreakchat.com/)이다. 연구결과, 인공지능은 목적함수(Object Function)를 사용하여 최적화하기 때문에 목표(goal)을 하이제킹하는 우회 침투 방법에 취약한 본질적 문제가 제기되었다. 본 연구에서는 이러한 거대언어모델의 보안취약점에 대응할 수 있는 사회공학적 거버넌스 모델을 제시하였다. 향후 연구로는 ‘고유한 인간의 존엄성’, ‘인류애’, ‘정의와 공정’ 등 우리 사회가 추구해야 할 근본 목적을 견고하게 지킬 수 있는 AI 보안 함수에 대한 추가적 연구가 요구된다.
목차
요약
Abstract
1. 서론
2. 본론
3. 거대언어모델(LLM)의 취약점 분석
4. 거대언어모델(LLM)침입 차단 모델
5. 결론
References
참고문헌 (7)
참고문헌 신청
https://www.jailbreakchat.com/ (accessed Nov. 20, 2023)
Brown, Tom B., Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared Kaplan, Prafulla Dhariwal, Arvind Neelakantan, et al. "Language models are few-shot learners.", 2022, arXiv preprint arXiv:2201.07285, DOI: https://doi.org/10.48550/arXiv.2005.14165
Frontier tech, “The emergence of large language model’, 2023, URL: https://thelowdown.momentum.asia/the-emergence-of-large-language-models-llms/ (accessed nov.11, 2023)
Devlin, Jacob, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. "BERT: Pre-training of deep bidirectional transformers for language understanding.", 2018, arXiv preprint arXiv:1810.04805 (accessed Dec.05, 2023), DOI: https://doi.org/10.48550/arXiv.1810.04805
OWASP, “OWASP Top 10 for LLM Applications”, 2023, URL: https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_1.pdf (accessed Dec. 18, 2023)
Brown, Tom B., Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared Kaplan, Prafulla Dhariwal, Arvind Neelakantan, et al. "Language models are few-shot learners.", 2022, arXiv preprint arXiv:2201.07285, DOI: https://doi.org/10.48550/arXiv.2005.14165
Frontier tech, “The emergence of large language model’, 2023, URL: https://thelowdown.momentum.asia/the-emergence-of-large-language-models-llms/ (accessed nov.11, 2023)
Devlin, Jacob, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. "BERT: Pre-training of deep bidirectional transformers for language understanding.", 2018, arXiv preprint arXiv:1810.04805 (accessed Dec.05, 2023), DOI: https://doi.org/10.48550/arXiv.1810.04805
OWASP, “OWASP Top 10 for LLM Applications”, 2023, URL: https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-2023-v1_1.pdf (accessed Dec. 18, 2023)
이 논문과 함께 이용한 논문
GPT를 활용한 개인정보 처리방침 안전성 검증 기법
심혜연
,
권민서
,
윤다영
외 2명
정보보호학회논문지
2024
.04
인공지능 보안 기술 및 동향
손인수
한국통신학회지(정보와통신)
2024
.03
Chat GPT vs Human: Chat GPT 의 창작 주체 가능성
최이정
,
윤지호
,
정윤경
한국HCI학회 학술대회
2024
.01
바이너리 코드 취약점 탐지를 위한 딥러닝 기반 동적 오염 탐지 기술
고광만
한국정보전자통신기술학회 논문지
2023
.06
자율주행 기술 동향 및 발전 방향: AI를 중심으로
김산민
,
김영석
,
전형석
외 2명
한국자동차공학회논문집
2022
.10
최근 본 자료
댓글(0)
0