간판은 점포를 알리고 홍보하는 옥외광고물 중의 하나로 점포의 특성을 나타낸다. 간판은 일반적으로 하나의 점포에 다수가 설치된 경우가 많고 간판의 규격도 지방자치단체에서 정하고 있는 조례를 따르지 않은 불법 간판인 경우가 있다. 도시민의 보행환경과 밀접한 가로에서 쉽게 볼 수 있는 간판은 가로경관의 측면에서 중요한 공공환경 중의 하나이다. 국가 및 지방자치단체에서는 간판개선사업을 통해 무질서하게 난립하고 있는 간판을 체계적으로 정비하고 효율적으로 관리하는 방법을 모색하고 있다. 또한, 보행자의 안전 및 도시의 경관을 위해 간판의 규격을 정의하여 무분별한 간판의 설치를 규제하고 있으나, 간판을 관리하는 업무를 담당하는 실질적인 인원이 부족하므로 간판의 규격을 효율적으로 판별하는 방법이 필요하다. 본 연구에서는 스테레오 카메라를 이용하여 촬영된 영상에서 간판의 규격을 판별하는 방법론과 이를 표준화된 데이터베이스로 구축하여 관리할 수 있는 방법을 제안하였다. 간판의 규격 판별은 점포에 가장 많은 비율로 설치되어 오랫동안 사용된 판류형 간판으로 한정하였으며 간판 정보는 XML을 이용하여 표준화된 데이터베이스로 구축하였다. 간판의 규격 판별과 표준화 과정은 네 가지 단계로 이루어진다. 첫 번째, 간판을 촬영한 영상에서 딥러닝 기반의 faster R-CNN을 통해 간판의 유형을 분류하였다. 두 번째, 판류형 간판의 영상에서 영상처리를 통해 간판의 크기를 인식하였다. 세 번째, 공간전방교회법을 통해 간판의 3차원 좌표를 결정하고, 간판의 크기를 결정하였다. 네 번째, 간판의 관리를 위해 XML 데이터 형식으로 간판의 데이터를 정보화하였다. 제안한 방법론을 이용한 실험에서 간판을 촬영한 영상에서 판류형 간판을 탐색하기 위해 faster R-CNN을 이용하여 학습한 결과, 간판 유형의 학습 정확도는 85.76%, 예측 인식률과 정확도는 92.61%와 70.94%로 나타났다. 이를 통해 간판을 촬영한 영상에서 판류형 간판을 자동화된 방법으로 분류가 가능한 것을 알 수 있었다. 판류형 간판이 나타난 영상에서 간판의 영역을 인식하기 위해 k-평균 군집화 기법, 경계선 추출 기법, 경계선을 이용한 교차점 검출, 워터쉐드 기법을 이용하였다. 실험을 통해 간판의 영역에 대한 인식률은 85.4%로 나타났으며, 판류형 간판을 구성하고 있는 네 꼭짓점에 대한 2차원 영상좌표를 추정할 수 있었다. 간판의 규격을 판별하기 위해 카메라 캘리브레이션을 통해 내부표정요소를 알고 있는 스테레오 카메라와 간판의 네 꼭짓점에 대한 2차원 좌표를 이용하여 공간전방교회법을 통해 간판의 3차원 좌표를 결정하였다. 10개의 간판에 대한 실험을 통해 15m∼22m에서 촬영한 간판의 가로 및 세로 길이의 최대 오차는 약 7.6cm, 최소 오차는 약 0.3cm로 나타났다. 간판의 규격의 불법여부는 지방자치단체의 옥외광고물 등의 관리와 옥외광고산업 진흥에 관한 조례를 참조하여 3차원으로 결정된 간판의 크기를 이용하여 판별하였다. 간판의 정보 구축 및 관리를 효율적으로 수행할 수 있도록 국가공간정보 표준을 참고하여 간판 정보의 구축 및 서비스를 위한 표준안을 제시하였다. 또한, 간판정보를 표준안에 근거하여 쉽게 입력할 수 있도록 스키마를 정의하고 엑셀의 파일 포맷을 이용하여 입력할 수 있도록 하였다. 본 연구에서는 스테레오 카메라를 이용하여 간판의 규격을 판별하고, 간판의 표준 데이터를 제작하여 간판의 데이터를 정보화하는 방법을 제시하였다. 제안한 방법을 통해 간판을 관리하는 업무를 담당하는 기초자치단체에서 간판의 규격을 효율적으로 판별할 수 있을 뿐만 아니라 간판 정보를 데이터베이스로 구축하여 체계적으로 관리 및 서비스할 수 있을 것으로 사료된다.
키워드 : 간판, 판류형, XML, XSD, Faster R-CNN, 딥러닝, 카메라 캘리브레이션, 공간전방교회법, 표준 데이터
A signboard often refers to an outdoor advertising signboard, perhaps one that advertises and promotes a shop and informs potential customers about the characteristics of the shop. In general, multiple signboards are usually arranged for one shop, and in certain cases, the sizes can be large, often breaking regulations, because the individual needs for maximal advertising usually conflicts with ordinances prescribed by local governments. Signboards are a prominent aspect of the public environment, in terms of the streetscape, as they can dominate the visual space on the streets close to pedestrian passages. The goverment and local governments are exploring ways to systemically arrange signboards and manage them efficiently through signboard improvement projects, in order to curtail the disorderly proliferation of signboards. Also, for the safety of pedestrians and the value of the urban landscape, installation of indiscriminate signboards is regulated by predetermining the sizes of signboards. However, due to the lack of enforcement staff to oversee putting up signboards, we need better ways to efficiently discern standards This study suggests methodologies to identify signboard standards based on images, captured with a stereo camera. It also suggests ways to establish and manage them using a standardized database. Identification of standards for signboards has been limited to flat-type signboards which appear most often, and these standards have been used for a long time, the signboard data developed into a standardized database using XML. The signboard size identification and standardization processes are divided into four stages. First, as for images of captured signboards, types of signboards were classified through deep learning-based faster R-CNN. Second, the sizes of signboards were recognized through image processing from the images of flat-type signboards. Third, based on spatial intersection, three-dimensional coordinates of signboards were determined and the sizes of signboard were established. Fourth, for management of signboards, signboard data was developed into XML data forms for management purposes. Based on the results of learning through faster R-CNN, in order to explore flat-type signboards from the images of signboards captured in a test using the suggested methodology, learning accuracy in signboard typing was 85.76%, while the predictive recognition rate and accuracy was 92.61% and 70.94%, respectively. Based on this, it was learned that it would be possible to classify flat type signboards through an automated method from images of signboards. In order to recognize the area of a signboard in an image where the signboard appears, k-means clustering, edge extraction, detection of cross-points by using boundary lines and watershed methods were applied. Recognition rates for the area of a signboard, based on an experiment, was 85.4%, and two-dimensional image coordinates pertaining to four vertexes constituting a flat-type signboard could be estimated. In order to identify standards for signboards, three-dimensional signboard coordinates were determined through spatial intersections by using two-dimensional coordinates pertaining to four vertices of a signboard, as well as a stereo camera that konws IOP (Interior Orientation Parameters) through camera calibration. Based on an experiment covering ten signboards, the maximum error of width and height of a signboard photographed 15m~22m away were about 7.6cm, and the minimum error was about 0.3cm. Legality of standards was decided based on the local government’s ordinance on management for outdoor advertising signboards and promotion of the outdoor advertisement industry, and identified based on the sizes of a signboard determined to be three-dimensional. For efficient establishment of signboard data and its management, the author referred to the KSDI(Korea National Spatial Infrastructure) Portal and suggested a standard plan for establishment and services pertaining to signboard data. Also, the schema was defined for easy input of signboard data based on the standard plan, and it was input through file format of EXCEL. This study suggested the methods to identify standards for signboards by using a stereo camera and by informatizing signboard data through producing standard data. Based on these methods, a local government division responsible for management of signboards will not only be able to efficiently identify the sizes of signboards but also be able to establish a signboard database for systematic management.
Keyword : Signboard, Flat-Type, XML, XSD, Faster R-CNN, Deep Learning, Camera Calibration, Spatial Intersection, Standard Data,
목차
1. 서론 11.1 연구배경 11.2 연구동향 31.3 연구목적 61.4 연구방법 및 범위 92. 간판 크기 인식 122.1 간판의 유형 122.2 간판 유형 분류 142.2.1 바운딩 박스 설정 162.2.2 간판 유형 분류의 예측 172.3 간판 인식 182.3.1 간판 영상의 색상 분류 202.3.2 간판 경계선 추출 252.3.3 간판 영역 인식 322.3.3.1 교차점 추출 332.3.3.2 동일 교차점 제거 352.3.3.3 사각형 조건 382.3.3.4 사각형 검출 402.3.4 간판 영상의 분할 422.3.4.1 팽창과 침식 442.3.4.2 팽창 및 침식 영상 정합 462.3.4.3 워터쉐드 462.3.5 간판 광고 내용 인식 472.3.5.1 다각형 검출 482.3.5.2 글자 영역 추정 502.3.5.3 글자 인식 전처리 영상 522.3.5.4 글자 인식 553. 간판 크기 결정 및 규격 판별 563.1 간판의 규격 573.2 스테레오 카메라 593.2.1 스테레오 카메라 환경구축 593.2.2 스테레오 카메라 캘리브레이션 603.2.2.1 스테레오 카메라 캘리브레이션 검정장 613.2.2.2 스테레오 카메라 캘리브레이션 633.3 간판의 3차원 좌표 653.3.1 간판의 3차원 좌표 결정 663.3.2 간판의 3차원 좌표 정확도 검증 674. 간판 표준 데이터 제작 684.1 간판 표준 데이터를 위한 간판의 속성 684.2 데이터 제품 사양 724.3 메타데이터 754.4 XSD 제작 775. 실험 825.1 간판 촬영 825.2 간판 유형 분류 845.2.1 간판 유형 학습 845.2.2 간판 유형 예측 855.3 간판 인식 865.4 간판 크기 결정 및 규격 판별 885.4.1 간판 촬영 895.4.2 스테레오 카메라 캘리브레이션 925.4.3 간판의 3차원 좌표 결정 945.4.4 간판의 3차원 좌표 정확도 검증 1005.4.5 간판의 규격 판별 1055.5 간판 표준 데이터 제작 1085.5.1 XML 제작 1086. 결론 116참고 문헌 119국문 초록 122ABSTRACT 125