메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
Hyuntae Kim (Kumoh National Institute of Technology) Junhyung Byun (Kumoh National Institute of Technology) Yoseph Na (Kumoh National Institute of Technology) Yuchul Jung (Kumoh National Institute of Technology)
저널정보
한국정보기술학회 JOURNAL OF ADVANCED INFORMATION TECHNOLOGY AND CONVERGENCE Journal of Advanced Information Technology and Convergence Vol.10 No.2
발행연도
2020.12
수록면
15 - 31 (17page)
DOI
10.14801/JAITC.2020.10.2.15

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
Various websites have been created due to the increased use of the Internet, and the number of documents distributed through these websites has increased proportionally. However, it is not easy to collect newly updated documents rapidly. Web crawling methods have been used to continuously collect and manage new documents, whereas existing crawling systems applying a single node demonstrate limited performances. Furthermore, crawlers applying distribution methods exhibit a problem related to effective node management for crawling.
This study proposes an efficient distributed crawler through stepwise crawling node allocation, which identifies websites" properties and establishes crawling policies based on the properties identified to collect a large number of documents from multiple websites. The proposed crawler can calculate the number of documents included in a website, compare data collection time and the amount of data collected based on the number of nodes allocated to a specific website by repeatedly visiting the website, and automatically allocate the optimal number of nodes to each website for crawling. An experiment is conducted where the proposed and single-node methods are applied to 12 different websites; the experimental result indicates that the proposed crawler"s data collection time decreased significantly compared with that of a single node crawler. This result is obtained because the proposed crawler applied data collection policies according to websites. Besides, it is confirmed that the work rate of the proposed model increased.
#web crawling #docker wwarm #virtual nodes #documents #scrapy #efficiency

목차

Abstract
1. Introduction
2. Related works
3. The Proposed Scheme
4. Experimental Results
5. Discussion
6. Conclusions
References

참고문헌 (28)

참고문헌 신청
Crawler4j Project google schola Apache Nutch Project google schola Scrapy Project / Scrapy 1.5 documentation google schola Yu, Linxuan / 2020 / Summary of Web Crawler Technology Research / Journal of Physics: Conference Series 1449(1):22~24 Crossref Shi, Yuliang / 2017 / Design and Implementation of a Scalable Distributed Web Crawler Based on Hadoop / Proceedings of IEEE 2nd International Conference on Big Data Analysis, ICBDA :537~541 google schola

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

Design of personalized skin-based cosmetics recommendation system Using Web crawling and OCR technology
Jung-Sook Kim ,  Kwang-Jin Choi ,  Sang-Whang Lee 외 1명 한국콘텐츠학회 ICCC 논문집 2018 .12
Keyword Analysis of Journal Papers Using Web Crawling and Data Mining
Young Woon Woo ,  Kyoung Won Cho INTERNATIONAL CONFERENCE ON FUTURE INFORMATION & COMMUNICATION ENGINEERING 2018 .06
빅데이터 분석 기반의 정보 검색을 위한 웹 크롤러 서비스 구현
김희숙 ,  한나 ,  임숙자 디지털콘텐츠학회논문지 2017 .08
다중 쓰레드 환경에서 웹 크롤러의 성능 분석
김준호 ,  이원주 ,  전창호 외 1명 한국컴퓨터정보학회 학술발표논문집 2009 .01

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2021-004-001436911