메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
조완섭 (충북대학교) 이정은 (충북대학교) 최치환 (충북대학교)
저널정보
한국콘텐츠학회 한국콘텐츠학회논문지 한국콘텐츠학회논문지 제13권 제6호
발행연도
2013.6
수록면
30 - 39 (10page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
웹 크롤러는 서버의 부담을 최소화하면서도 최신의 데이터를 웹사이트로부터 수집하고 유지해야 한다. 빅데이터 시대와 같이 데이터가 폭발적으로 증가하는 시대에 데이터 소스로부터 자주 모든 데이터를 추출하는 것은 서버에 심각한 부담을 주게 된다. 무선통신 기술과 다양한 스마트 기기들의 확산으로 정보가 급속도로 생성되고 있으며, 어디에서나 어느 시간이나 지속적으로 생성 및 변경되고 있다. 웹크롤러는 이러한 상황을 감안하여 최신의 정보를 적은 오버헤드로 유지해 나가는 것이 중요한 이슈로 부각되고 있다. 본 논문에서는 웹사이트의 변경사항을 체크할 수 있는 효과적인 방안과 웹사이트의 수집 주기를 동적으로 변경함으로써 적은 비용으로 최신성을 유지할 수 있는 방안을 제시한다. 핵심 아이디어는 과거 히스토리로부터 웹사이트 변경이 집중되는 시간을 파악하여 웹수집 주기를 결정하는데 반영한다는 점이다. 논문에서는 특정 웹사이트의 데이터를 추출하는 Java 크롤러를 개발하고, 제안된 방식과 기존 방식의 유용성을 비교하였다. 제안된 기법을 사용하면 정적인 방식보다 서버 오버헤드를 절반정도(46.2%)로 줄이면서도 최신성을 더욱 높게 보장할 수 있게 된다.
#웹수집 주기 #크롤러 #웹사이트 #동적수집 #Web Crawling Cycle #Crawler #Web Sites #Dynamic Collection

목차

요약
Abstract
1. 서론
2. 관련연구
3. 웹사이트 수집주기 최적화 기법
4. 시스템 구현과 분석
5. 결론
참고문헌

참고문헌 (23)

참고문헌 신청
1. [학술지(정기간행물)] - 강한훈 / 2010 / 다양한 계층 트리 구조를 갖는 쇼핑몰 상에서의 상품평 수집을 위한 웹 크롤러 래퍼의 설계 및 구현+ / 한국지능시스템학회 논문지 20 (3) : 318 ~ 325 dbpia 6. [학위논문] - 김경수 / 2011 / 웹 크롤링 수집주기의 동적 설계 및 구현 / 석사 / 충북대학교 경영대학원 google schola 9. [학술대회논문] - C. Bertoli / 2008 / Crawling Programs for Wraller-based Applications / Proc. IEEE Intl. Conference on Information Reuse and Integration (IRI '08) : 160 ~ 165 google schola 10. [학위논문] - J. H. Cho / 2001 / Crawling the Web: Discovery and maintenance of Large-Scale Web Data / 박사 / Stanford University google schola 11. [학술지(정기간행물)] - S. Chakrabarti / 1999 / Focused Crawling: A new Approach to Topic-Specific Web Resource Discovery / Computer Networks 31 (11-16) : 1623 ~ 1640 google schola

이 논문의 저자 정보

이 논문과 함께 이용한 논문

빅데이터 분석 서비스 지원을 위한 지능형 웹 크롤러
서동민 ,  정한민 한국콘텐츠학회논문지 2013 .12
웹 자원 아카이빙을 위한 웹 크롤러 연구 개발
김광영 ,  이원구 ,  윤화묵 외 2명 한국콘텐츠학회논문지 2011 .09
고성능 웹크롤러의 설계 및 구현
권성호 ,  이영탁 ,  김영준 외 1명 한국산업정보학회논문지 2003 .12
빅데이터 활용과 데이터 과학자
조완섭 정보과학회지 2014 .01
빅데이터 기반의 실시간 네트워크 트래픽 분석 플랫폼 설계
이동환 ,  박정찬 ,  유찬곤 외 1명 정보보호학회논문지 2013 .08

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2014-000-003346015