지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술대회자료
- 저자정보
- 발행연도
- 2024.11
- 수록면
- 1,265 - 1,269 (5page)
이용수
초록· 키워드
오류제보하기
With the increasing demand for AI-based content creation, the need for GPU resources and their performance is rapidly growing. AI inference services are evolving beyond the simple server-client structure to a distributed network environment. However, in a distributed network, it is crucial to transparently manage the inference services provided by participating nodes. In this paper, we propose a method to build an inference pipeline by utilizing a blockchain-based distributed processing system, ensuring the integrity and transparency of tasks through blockchain and scheduling. In the proposed system, the scheduler node manages the state of worker nodes and interacts with the blockchain, while each worker node utilizes its GPU resources to bind appropriate models and perform inference on requested tasks. The proposed structure demonstrates 1.37 times faster performance than traditional server-client inference methods and enables transparent management of inference results and requests through blockchain.
목차
Abstract
I. 서론
II. 본론
Ⅳ. 결론 및 향후 연구 방향
참고문헌
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
A Fast and Scalable Generative Model Inference on Distributed Multi-GPU Environment
한국정보과학회 학술발표논문집
2023 .06
-
GP-GPU를 사용한 Deep Learning Inference의 메모리 절약 기법
대한전자공학회 학술대회
2020 .08
-
IoT 기반 분산 전문가 시스템의 설계
한국지능정보시스템학회 학술대회논문집
2016 .08
-
다중 GPU 시스템에서의 복잡한 딥러닝 모델의 고성능 추론을 위한 스케줄링 전략 분석
한국정보과학회 학술발표논문집
2022 .06
-
클라우드-네이티브 엣지 컴퓨팅 환경에서 이종 GPU 스케줄링을 통한 생성 AI 모델의 효율적 추론
한국통신학회 학술대회논문집
2025 .02
-
대규모 언어 모델 추론 과정의 GPU상 지연시간 정밀 분석
대한전자공학회 학술대회
2024 .06
-
거대 언어 모델의 일괄 추론 수준에 따른 추론 시간, 정확도, 통신 및 GPU 메모리 점유량 비교분석
한국통신학회논문지
2024 .10
-
Support for Participation of a Mobile Node in Blockchain Networks
한국통신학회 학술대회논문집
2022 .02
-
Utilizing Contex for Enhancing Performance of On-device AI Inference
INTERNATIONAL CONFERENCE ON FUTURE INFORMATION & COMMUNICATION ENGINEERING
2023 .01
-
Blockchain Agreement for Self-identification of Online Test Cheating: Improvement of Algorithm Performance
제어로봇시스템학회 국제학술대회 논문집
2020 .10
-
클라우드 네이티브 환경에서의 효율적 GPU 자원을 활용한 AI 모델 분산학습 구조에 대한 연구
한국정보과학회 학술발표논문집
2024 .06
-
효율적인 추론을 위한 Anytime Inference 기반 Quantized Model
대한전자공학회 학술대회
2021 .06
-
노면 인식 딥러닝 모델의 온 디바이스 AI 적용을 위한 양자화 모델 추론 성능 평가
대한전자공학회 학술대회
2022 .06
-
HeteroAccel: 엣지 컴퓨팅 환경에서의 다양한 영상 추론을 위한 쿠버네티스 기반의 이종 연산·가속기 자원 관리 시스템
대한임베디드공학회논문지
2021 .10
-
GPU 기반 분산 처리 환경에서의 딥 뉴럴 네트워크 성능 분석
한국정보과학회 학술발표논문집
2017 .06
-
성공적인 블록체인 서비스를 위한 제안: 서비스 가치와 기능 및 문제점 분석
대한인간공학회 학술대회논문집
2020 .06
-
블록체인 기술과 전술통신 네트워크에서의 활용 방안
한국컴퓨터정보학회논문지
2018 .12
-
고확장성 블록체인 저장을 위한 분산 노드관리 기술 설계
한국통신학회 학술대회논문집
2022 .11
-
블록체인 노드 신뢰성 향상을 위한 사용자 검증 시스템
한국정보통신학회논문지
2018 .09
-
분산 딥러닝 학습을 위한 GPU 클러스터 스케줄러 연구 동향 분석
한국통신학회 학술대회논문집
2022 .11
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0