지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
이용수
초록· 키워드
오류제보하기
자연어 처리 모델이 발전함에 따라 챗 GPT와 같은 대화형 언어 생성 AI 모델이 널리 사용되고 있다. 따라서 자연어 처리 최신 모델의 기반이 되는 트랜스포머 알고리즘을 하드웨어로 구현하여 연산 속도와 전력 소비량을 개선하는 것은 중요하다고 할 수 있다. 특히, 행렬 곱셈을 통해 문장에서 서로 다른 단어 간의 관계를 분석하는 멀티 헤드 어텐션과 피드 포워드 네트워크는 트랜스포머에서 연산량이 가장 큰 핵심적인 알고리즘이다. 본 논문에서는 기존의 시스톨릭 어레이를 변형하여 행렬 곱 연산 속도를 개선하고, 입력 단어 개수 변동에 따라 지연시간도 변동되는 유동적인 구조를 제안한다. 또한, 트랜스포머 알고리즘의 정확도를 유지하는 형태로 양자화를 하여 메모리 효율성과 연산 속도를 높였다. 본 논문은 평가를 위해 멀티헤드어텐션과 피드포워드 네트워크에서 소요되는 클럭사이클을 검증하고 다른 곱셈기와 성능을 비교하였다.
목차
Abstract
요약
Ⅰ. 서론
Ⅱ. 본론
Ⅲ. 실험 및 결과
Ⅳ. 결론
References
참고문헌 (0)
참고문헌 신청이 논문과 함께 이용한 논문
사용자 맞춤형 가상 옷장의 설계 및 모델링 : 의류 인식 및 분류를 위한 Faster R-CNN 및 ORB 활용, 인공 지능 기반 추천 시스템에서의 행렬 분해 활용
전영진
,
박주형
,
김태완
외 5명
Proceedings of KIIT Conference
2023
.06
분할된 지연 감내 네트워크에서 UAV를 이용한 효과적인 메시지 전달 기법
강민욱
,
정윤원
한국정보기술학회논문지
2022
.02
메타버스의 환경 변화와 기술 동향
남현우
한국통신학회지(정보와통신)
2021
.08
Robust 행렬 분해를 이용한 신약 재창출
손동현
,
송길태
한국정보과학회 학술발표논문집
2021
.06
YOLO와 CNN을 이용한 강인한 차량 번호판 인식 시스템 구현
김재정
,
김창복
한국정보기술학회논문지
2021
.04
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-151-24-02-089583848