온라인 플랫폼의 추천 알고리즘에 대한 청소년의 알 권리

김일우

doi:10.38176/PublicLaw.2024.10.53.1.273

추천

검색

질문

자료유형: 학술저널

저자정보: 김일우 (한국청소년정책연구원)

저널정보: 한국공법학회 공법연구 公法硏究第53輯第1號

발행연도: 2024.10

수록면: 273 - 302 (30page)

DOI: 10.38176/PublicLaw.2024.10.53.1.273

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

최근 SNS를 포함한 온라인 플랫폼에서 딥페이크 기술을 이용하여 제작한 성적 합성 영상물 등이 유통되면서 심각한 사회문제로 대두되고 있다. 특히, 청소년들의 교우, 교사, 가족등의 사진을 음란 영상물 등에 합성하여 시청 및 유포하면서 다양한 우려를 낳는다. 한편, 온라인 플랫폼의 추천 알고리즘을 통하여 선정적이거나 자극적인 콘텐츠들이 플랫폼 이용자들에게 제공되기도 하는데, 이러한 유해 콘텐츠가 온라인에서 홍수처럼 퍼지면서 자라나는 10대 청소년의 건강과 안전에 중대한 영향을 미치고 있다.
무엇보다도, 청소년 시기는 다양한 정보와 경험을 통해 가치관과 사고가 형성되는 시기로서, 장기간 유해 매체 등에 노출될 경우 그에 따른 부정적 영향이 상당하다. 무엇보다도 청소년은 기본권의 주체로서 미래 사회를 견인할 사회 구성원으로 존중받아야 하는 동시에, 이들의 건강한 성장과 발달을 위해서 국가와 사회의 특별한 보호가 필요하다.
온라인 플랫폼이 청소년에 미치는 유해한 영향은 우리나라뿐만 아니라 국제사회가 함께 고민하는 과제이다. 주요 국가들은 온라인 플랫폼의 콘텐츠 추천 기능이 청소년의 정신건강에 미치는 해로운 영향에 주목하면서, 다양한 정책적 대응방안을 마련하고 있다. 대표적으로 미국 상원 의회는 2024년 초 청문회를 통하여 메타(Meta) 및 틱톡(Tiktok) 등 온라인 플랫폼의 추천 알고리즘이 청소년에 미치는 영향 등에 관한 문제점을 조사하였으며, 이를 토대로 「아동 온라인 안전및프라이버시법(Kids Online Safety and Privacy Act: KOSPA)」 제정을 추진하였다.
온라인 플랫폼의 추천 알고리즘 활용에 따른 정신 건강에 대한 위해는 청소년에 대한 중대한 기본권 침해 사안이라는 점을 고려하여 접근할 필요가 있으며, 추천 알고리즘의 문제에 대한 규범적 대응이 강조되는 시점이다. 특히, 관할 당국은 플랫폼을 통한 불법 및 유해 콘텐츠 확산 이후에 청소년 유해매체물로 지정하는 사후 규제에서 벗어나, 온라인을 통해 제공되는 콘텐츠가 청소년의 잠재의식에 미치는 영향 및 정신건강 등에 심각한 해악을 야기할 수 있는 위험성 등을 고려할 필요가 있다. 또한, 그러한 콘텐츠가 청소년들에게 유통되기 전에 당국이 선제적으로 대응할 수 있는 사전 규제방안을 도입할 필요가 있다.
이 글에서는 그와 같은 문제의식을 토대로 하여, 지능정보사회에서 인공지능에 기반한 온라인 플랫폼의 추천 알고리즘이 청소년에 미치는 부정적 영향에 관한 외국의 주요 사례를 중심으로 문제점을 진단한다(Ⅱ장). 또한, 플랫폼의 편향된 정보전달 및 자동적 판단으로부터 청소년의 기본권을 보호하기 위한 수단으로서, 온라인 플랫폼의 추천 알고리즘에 대한 ‘알권리’의 의미를 새롭게 재조명하고, 청소년의 안전한 플랫폼 이용을 위한 알고리즘 설명요구권 보장 등 도입의 필요성을 살펴본다(Ⅲ장). 마지막으로, 온라인 플랫폼을 규율하는 현행법의 한계 및 외국의 법제(Ⅳ장)를 바탕으로 SNS 시대의 청소년 보호를 위한 구체적인 개선방안을 모색하고자 한다(Ⅴ장).

Serious social issues have arisen as sexually explicit deepfake videos created with AI technology are widely distributed on online platforms including social media. This is particularly troubling, considering deepfake technology has been used to combine photos of adolescents’ fellow students, teachers, or family members with pornographic content, creating chaos in society as these videos are viewed and distributed.
Additionally, online platforms’ recommendation algorithms frequently provide users with suggestive and vicious content. Such harmful and illegal content has increasingly reached adolescent users with little or no legal restriction, causing a profound impact on the safety and well-being of young people as they are flooded with such media.
Adolescence is a critical period for forming values, developing reasoning skills, and undergoing physical development. Prolonged exposure to harmful environments can have serious negative effects. Adolescents are an essential human resource for the development of any nation, and special protection is warranted from both the state and society to support their healthy growth.
The harm online platforms can have on adolescents is a pressing issue across borders. It is widely acknowledged as a serious problem not only in Korea but also internationally. Globally, there is an increasing focus on the negative mental health effects of content recommendation functions provided by online platforms on adolescents, and various policies are being developed to address this issue. Notably, the U.S. Senate held hearings in early 2024 to investigate the impact of harmful content distributed on platforms such as Meta and TikTok. The U.S. Senate has passed the Kids Online Safety and Privacy Act (KOSPA).
Recognizing that the mental health risks associated with recommendation algorithms constitute a serious infringement on adolescents’ basic rights is crucial. Specific regulatory responses are urgently needed. Rather than relying solely on traditional regulatory approaches where authorities designate certain media as harmful to youth following their distribution, it is essential to take proactive measures so that authorities can respond before such harmful content circulates. Such actions are clearly warranted, considering how such content can harm young people's subconscious and mental health.
In consideration of these issues, this article examines the negative impacts of AI-supported recommendation algorithms on adolescents by analyzing key case studies from outside Korea (Part II). It also explores the emerging concept of adolescents' “right to know” about the recommendation algorithms used by online platforms as a means to protect adolescents’ fundamental rights, examining the necessity of the right to ensure algorithm transparency as they engage with platform-based information (Part III). Finally, based on limitations in the current self-regulation framework for platform operators and foreign legislative examples (Part IV), this article seeks to propose specific improvements to protect adolescents in the era of social media (Part V).

#온라인 플랫폼 #추천 알고리즘 #알 권리 #청소년 보호 #Online Platform #Recommendation Algorithmic #Right to Know #Youth Protection #SNS

국문초록
Ⅰ. 들어가며: 문제의 제기
Ⅱ. 온라인 플랫폼의 추천 알고리즘 관련 주요 소송 사례 및 문제점
Ⅲ. 온라인 플랫폼의 알고리즘 정보에 대한 청소년의 알 권리의 의미
Ⅳ. 추천 알고리즘 관련 국내법제의 한계 및 외국의 규범 동향
Ⅴ. 청소년의 안전한 온라인 플랫폼 활용을 위한 개선방안
Ⅵ. 맺으며
참고문헌
Abstract

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

이 논문과 함께 이용한 논문

딥페이크 기술에 의한 인격권 침해 검토 - 초상권을 중심으로 -

노현숙 미디어와 인격권 2025 .04

한윤이 , 허혜주 , 연명흠 한국HCI학회 학술대회 2025 .02

디지털서비스 이용자의 보호에 관한 연구 - 디지털 입헌주의로부터의 시사점을 중심으로 -

문의빈 저스티스 2025 .04

촉법소년 조사의 개선방안 - 제22대 국회 발의안과 딥페이크 포르노 관련 변화를 소재로 -

장응혁 , 최대현 경찰학연구 2025 .03

“얘들아, 인스타를 내려놓을지니”… 봇물터진 청소년 SNS 규제

최종선 KISO 저널 2024 .12

최근 본 자료

전체보기

UCI(KEPA) : I410-151-25-02-091213650

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)