메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술대회자료
저자정보
임형준 (롯데이노베이트) 김태훈 (중앙대학교) 최종욱 (중앙대학교) 오현식 (롯데이노베이트) 전슬기 (롯데이노베이트) 최종원 (중앙대학교)
저널정보
대한전자공학회 대한전자공학회 학술대회 2024년도 대한전자공학회 하계학술대회 논문집
발행연도
2024.6
수록면
2,801 - 2,804 (4page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
최근 Large Language Models (LLMs)의 빠른 발전으로 다양한 산업에서 인간을 보조하는 도구로서 활용되고 있다. 하지만 이러한 대형 모델은 산업, 공공기관, 사회 현상 등에 부적절한 추력을 유도하는 탈옥(jailbreak)에 취약하다. 현재까지 LLMs을 탈옥하기 위해서 사람들이 직접 탈옥문을 작성하고 평가하였으나, 확장성과 빠르게 필터링 처리되는 문제가 존재한다. 이러한 문제점을 해결하기 위해 자동으로 탈옥문을 만들어주는 Auto Do Any Thing now (AutoDAN)의 연구가 활발히 진행되고 있다. 본 논문에서 대부분 영어로 작성되어 있는 탈옥문을 한국어로 번역하고 유전 알고리즘과 LLM을 사용하여 한국어 LLMs 탈옥을 위한 AutoDAN 연구를 소개한다. 정량적, 정성적 평가를 통해 한국어 AutoDAN 알고리즘이 문장의 의미는 보전하며 탈옥의 성공률을 높일 수 있음을 입증한다.
#대형 언어 모델 (Large Language Models) #탈옥문 (Jailbreak Prompt) #자동 탈옥문 생성 (Auto Do Any Thing now) #레드팀 (Red Team) #자연어 처리(Natural Language Process)

목차

Abstract
Ⅰ. 서론
Ⅱ. 본론
Ⅲ. 결과
Ⅳ. 결론 및 향후 연구 방향
참고문헌

참고문헌 (0)

참고문헌 신청
참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

앙상블 다이버시티를 이용한　RAG-LLM 응답 성능 향상
강석훈 ,  김성진 한국정보통신학회논문지 2024 .08
RAG(Retrieval-Augmented Generation) 시스템 구현을 위한 개방형과 폐쇄형 LLM(Large Language Model) 모델 간의 성능 비교에 관한 연구
김민창 ,  이채원 ,  염세훈 한국통신학회 학술대회논문집 2024 .06
차세대 5G네트워크 보안을 위한 LLM 및 RAG 기반 공격 시나리오 생성
하유성 ,  김기천 한국통신학회 학술대회논문집 2024 .06
LLM 프롬프트 엔지니어링 기반 데이트 코스 추천 시스템
성진규 ,  이동석 ,  김서인 외 2명 한국정보과학회 학술발표논문집 2024 .06
파인튜닝, RAG, 프롬프트 기반 언러닝 방법의 성능 비교 분석
김재성 ,  이수안 한국정보과학회 학술발표논문집 2024 .06

최근 본 자료

전체보기

댓글(0)

0