개인구독
소속 기관이 없으신 경우, 개인 정기구독을 하시면 저렴하게
논문을 무제한 열람 이용할 수 있어요.
지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2024.6
- 수록면
- 685 - 695 (11page)
- DOI
- 10.6109/jkiice.2024.28.6.685
이용수
초록· 키워드
오류제보하기
임베디드 시스템부터 서버에 이르기까지 다양한 딥러닝 모델들을 효율적으로 실행시키기 위한 하드웨어 및 소프트웨어 기술들이 발전되고 있다. 나아가 사용자들의 다양한 요구사항과 인식 정확도 향상을 위하여 여러 개의 딥러닝 모델들이 CPU나 메모리와 같은 시스템 자원들을 서로 경합하는 형태로 실행된다. 이러한 딥러닝 모델 실행 장치들을 객관적으로 평가하기 위하여 MLPerf가 개발되었다. 하지만 현재의 MLPerf는 직렬화된 방식으로 DNN 모델을 실행시켜 여러 개의 DNN 모델이 실행되는 실제 환경을 반영하지 못한다. 본 논문에서는 멀티 쓰레딩 기반 쿼리 병렬화를 통해 여러 DNN들의 동시 실행 요구를 가능하게 하고, 대상 시스템에서도 실제 환경과 유사하게 여러 개의 DNN 모델이 실행될 수 있도록 MLPerf를 개선하였다. 실험 결과 기존 대비 약 2배 이상의 쿼리 처리 성능을 보여 실제 실행 환경과 유사하게 벤치마킹함을 알 수 있었다.
목차
요약
ABSTRACT
Ⅰ. 서론
Ⅱ. 연구배경 및 문제 정의
Ⅲ. 다중 DNN 모델 벤치마킹을 위한 MLPerf
Ⅳ. 실험
Ⅴ. 결론 및 고찰
REFERENCES
참고문헌 (23)
참고문헌 신청
TensorFlow. [Internet]. Available: https://www.tensorflow.org/install?hl=ko.
Torch. [Internet]. Available: https://pytorch.org/.
H. KOO and S. KIM, “Evaluation of AI systems through MLPerf Benchmarks,” Communications of the Korean Institute of Information Scientists and Engineers, vol. 39, no. 1, pp. 16-23, Jan. 2021.
J. M. Kim, I. M. Kim, and M. S. Kim, “Multi-DNN Acceleration Techniques for Embedded Systems with Tucker Decomposition and Hidden-layer-based Parallel Processing,” Journal of the Korea Institute of Information and Communication Engineering, vol. 26, no. 6, pp. 842-849, Jun. 2022. DOI: 10.6109/jkiice.2022.26.6.842.
H. J. Cho, S. P. Hong, and M. S. Kim, “Priority-based Multi-DNN scheduling framework for autonomous vehicles,” Journal of the Korea Institute of Information and Communication Engineering, vol. 25, no. 3, pp. 368-376, Mar. 2021. DOI: 10.6109/jkiice.2021.25.3.368.
Torch. [Internet]. Available: https://pytorch.org/.
H. KOO and S. KIM, “Evaluation of AI systems through MLPerf Benchmarks,” Communications of the Korean Institute of Information Scientists and Engineers, vol. 39, no. 1, pp. 16-23, Jan. 2021.
J. M. Kim, I. M. Kim, and M. S. Kim, “Multi-DNN Acceleration Techniques for Embedded Systems with Tucker Decomposition and Hidden-layer-based Parallel Processing,” Journal of the Korea Institute of Information and Communication Engineering, vol. 26, no. 6, pp. 842-849, Jun. 2022. DOI: 10.6109/jkiice.2022.26.6.842.
H. J. Cho, S. P. Hong, and M. S. Kim, “Priority-based Multi-DNN scheduling framework for autonomous vehicles,” Journal of the Korea Institute of Information and Communication Engineering, vol. 25, no. 3, pp. 368-376, Mar. 2021. DOI: 10.6109/jkiice.2021.25.3.368.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
MLPerf를 통해 보는 인공지능 시스템 성능평가
정보과학회지
2021 .01
-
다중 딥러닝 모델 벤치마킹
대한전자공학회 학술대회
2023 .06
-
오버헤드 최소화를 통한 임베디드 GPU 환경에서 멀티 DNN 추론 성능 향상
전자공학회논문지
2021 .10
-
자율주행차용 우선순위 기반 다중 DNN 모델 스케줄링 프레임워크
한국정보통신학회논문지
2021 .03
-
글로벌 큐를 통한 임베디드 멀티코어 프로세서의 멀티 DNN 연산 성능 향상
한국정보통신학회논문지
2020 .06
-
영상인식 및 분류용 인공지능 가속기의 최신 성능평가: MLPerf를 중심으로
방송과 미디어
2020 .01
-
자율주행 자동차에서 DNN 기반 안전 필수 응용의 성능 저하 방지
전자공학회논문지
2020 .09
-
SMT-based Formal Verification Methods of Deep Neural Networks using Structural Properties
Journal of KIISE
2021 .09
-
터커 분해 및 은닉층 병렬처리를 통한 임베디드 시스템의 다중 DNN 가속화 기법
한국정보통신학회논문지
2022 .06
-
CPU-GPU 협력 스케줄링을 통한 임베디드 시스템 내 다중 DNN 모델들의 성능 향상
전자공학회논문지
2021 .01
-
DNN 모델을 활용한 사람 수 예측 알고리즘 구현
한국통신학회 학술대회논문집
2019 .06
-
DNN 기반 객체 학습 및 인식 시스템
한국정보과학회 학술발표논문집
2016 .12
-
DNN에서 효율적인 학습을 위한 활성화 함수에 대한 고찰
대한전자공학회 학술대회
2016 .11
-
DNN을 이용한 소셜 이미지에서의 감성 인식
한국정보과학회 학술발표논문집
2018 .12
-
DNN 기반 2 단계 계층적 빔 탐색 기법
한국통신학회 학술대회논문집
2025 .02
-
DNN 알고리즘을 이용한 파이프 비드높이 예측에 관한 연구
대한용접학회 특별강연 및 학술발표대회 개요집
2020 .11
-
DNN-GRU-DNN Multiple layer 기반 전기자동차 배터리 SOC 추정 알고리즘
대한전기학회 학술대회 논문집
2022 .05
-
환경 파라미터를 이용한 DNN 기반 특징 보상 기법
한국통신학회 학술대회논문집
2015 .01
-
IoT 환경에서 실내 사람 수 추정을 위한 DNN 모델
한국통신학회 학술대회논문집
2020 .08
최근 본 자료
댓글(0)
0