메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술대회자료
저자정보
최현성 (딥인스펙션) 이재현 (바이브컴퍼니) 안신영 (한국전자통신연구원)
저널정보
대한전자공학회 대한전자공학회 학술대회 2023년도 대한전자공학회 하계학술대회 논문집
발행연도
2023.6
수록면
981 - 985 (5page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

이 논문의 연구 히스토리 (2)

2023

Multi-GPU 기반 분산 딥러닝을 위한 효율적인 집합 통신 기법 연구
최현성 ,  이재현 ,  안신영 대한전자공학회 학술대회 2023.06 학술대회자료

2019

Container 환경에서의 Multi GPU 기반 딥러닝 분산 처리를 위한 집합 통신 성능 분석
최현성 ,  김영랑 ,  이재환 한국정보과학회 학술발표논문집 2019.06 학술대회자료

초록· 키워드

오류제보하기
This paper demonstrates a scheme that can efficiently use collective communication, which is mainly used in multi-GPU-based distributed deep learning environments, through experiments in various environments. We propose a novel buckerting function by referring to the Bucketing scheme proposed for efficient communication in the PyTorch DDP (Distributed Data Parallel) module. In addition, we implemented a communication backend that could handle communication requested by PyTorch through NCCL (NVIDIA Collective Communication Library), and evaluated its performance by applying it to an environment consisting of various types of multiple GPUs. The proposed Bucketing scheme we implemented improved performance by up to about 11% compared to PyTorch DDP and up to about 10.8% compared to Horovod when fine-tuning Bert-base-cased models with GLUE MNLI in the same environment.

목차

Abstract
Ⅰ. 서론
Ⅱ. 배경
Ⅲ. 구현
Ⅳ. 실험
Ⅴ. 결론 및 향후 연구 방향
참고문헌

참고문헌 (0)

참고문헌 신청
참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

멀티 GPU 환경에서 GPUDirect Storage 기술을 활용한 I/O 성능 분석
Piao Wenyu ,  박정민 ,  김정명 외 1명 한국정보과학회 학술발표논문집 2022 .12
다중 GPU 시스템에서의 복잡한 딥러닝 모델의 고성능 추론을 위한 스케줄링 전략 분석
정선욱 ,  이성주 ,  강범우 외 2명 한국정보과학회 학술발표논문집 2022 .06
다중 GPU 사용을 위한 CUDA C 행렬의 곱 프로그램의 구현
황근창 ,  김영태 한국정보기술학회논문지 2020 .11
VDI 기술 최적화를 위한 멀티 GPU 환경에서의 병렬처리 기법 연구
이세연 ,  신영록 ,  김명섭 외 3명 한국통신학회 학술대회논문집 2013 .01

최근 본 자료

전체보기

댓글(0)

0