오늘날 숏폼 플랫폼은 사용자의 디지털 발자국(Digital Footprint)과 쿠키(Cookie)를 추적하여 방대한 데이터를 수집하는 빅데이터 분석을 기반으로 작동합니다. AI는 이를 바탕으로 사용자의 과거 기록을 따르는 ‘콘텐츠 기반 필터링’과 유사 집단의 성향을 활용하는 ‘협업 필터링’ 기술을 적용합니다. 특히 사용자가 자극적이거나 입맛에 맞는 정보에 반응할 때 보상을 얻는 ‘강화학습’ 메커니즘과 실시간으로 상단 노출 순위를 바꾸는 ‘동적 랭킹 알고리즘’이 결합하면서, 플랫폼은 오직 ‘체류 시간 연장’만을 최우선 목표로 삼게 됩니다.
이로 인해 가치관이 형성되는 시기인 청소년들이 정보를 수동적으로 수용할 경우, 자신도 모르게 편향된 정보의 거품에 갇히는 ‘필터 버블’과 확증 편향에 깊게 빠집니다. 이는 개인의 지적 고립을 넘어, 타인을 배척하는 사회적 양극화와 디지털 공간 내 혐오 문화 확산이라는 심각한 사회적 부작용을 초래하고 있습니다.
해결방안 및 비판적 통합
이러한 필터 버블 문제를 해결하기 위해 저는 당초 사용자가 의식적으로 다양한 영상을 찾아보는 주체적인 ‘디지털 리터러시’를 실천하고, 플랫폼은 누구나 쉽게 알고리즘을 리셋할 수 있는 ‘알고리즘 초기화 기능’을 전면 배치해야 한다는 초기 의견을 가졌습니다.
여기에 인공지능(AI)이 제시한 대안들을 검토해 본 결과, 저의 초기 의견을 한층 더 다각적이고 거시적인 차원으로 확장할 수 있었습니다. 플랫폼 기업은 초기화를 넘어 시스템 설계 자체에 ‘세렌디피티 모델링’을 도입하여 의외성·다양성 가중치가 부여된 콘텐츠를 5~10% 강제 믹싱해야 하며, 도파민 분비를 자극하는 무한 스크롤을 막기 위해 30분 시청 시 기술적 브레이크를 거는 ‘중단 신호(유한한 인터페이스) 디자인’을 반영해야 한다는 기술적 대안을 배웠습니다. 또한, 국가적 차원에서는 유럽연합(EU)의 디지털서비스법(DSA)처럼 프로파일링을 거부하고 최신순 피드를 선택할 수 있는 ‘알고리즘 거부권’을 법제화하거나, 미국 뉴욕주처럼 미성년자 대상 중독성 알고리즘 전송을 법으로 금지하는 강력한 제도적 규제가 필요함을 인지했습니다.
그러나 이러한 인공지능의 답변을 고등학생의 관점에서 비판적으로 검토해 보았을 때 현실적인 한계도 명확했습니다. 기업이 수익성(체류 시간)을 포기하며 자발적으로 다양성 알고리즘이나 중단 디자인을 도입할 리 만무하며, 국가가 법적으로 알고리즘 거부권을 보장하더라도 대다수의 청소년은 편리함 때문에 기본 맞춤형 설정을 그대로 유지할 가능성이 크기 때문입니다.
결국 저는 [개인의 주체적 노력 + 기업의 기술적 다양성 구현 + 국가의 법적 안전망]이 삼위일체로 융합되어 선순환해야 한다는 최종적인 해결 가치를 도출해 냈습니다. 국가가 법적으로 청소년 계정에 대한 최소한의 다양성 알고리즘 탑재를 강제하고, 플랫폼은 사용자가 자신의 편향도를 인지할 수 있는 시스템을 제공하며, 청소년은 이를 리터러시 역량으로 주체적으로 제어할 때 비로소 청소년들은 필터 버블을 깨고 나와 균형 잡힌 민주 시민으로 성장할 수 있을 것입니다.