뉴욕 / RankWire.AI / – 유엔은 디지털 플랫폼이 정보 습득 방식을 재편함에 따라 아동과 청소년을 위한 더욱 강력한 보호 조치를 촉구하고 있습니다. 유엔의 새로운 정책 보고서는 허위 정보, 혐오 발언, 괴롭힘, 인공지능, 그리고 관심 유도형 온라인 시스템으로 인한 위험성을 강조합니다. 또한 개인 데이터, 행동 기반 광고, 알고리즘 기반 배포와 관련된 우려 사항도 지적합니다. 보고서는 젊은 사용자들이 온라인에서 교육, 소통, 그리고 공공 참여에 접근할 수 있도록 하면서도 더욱 강력한 보호 장치가 필요하다고 강조합니다.
국제 커뮤니케이션부는 8월 12일 세계 청소년의 날을 앞두고 이 보고서를 발표했습니다. 보고서에 따르면 전 세계 15세에서 24세 사이의 사람들 중 82% 이상이 인터넷을 사용하고 있습니다. 디지털 접근성은 학습, 시민 참여 및 경제 활동 참여의 기회를 확대할 수 있습니다. 그러나 동시에 젊은 사용자들은 정보를 판단하는 능력이 아직 발달하는 과정에서 유해한 콘텐츠에 노출될 위험도 있습니다. 보고서는 온라인 위험이 인지적, 정서적, 사회적 발달에 영향을 미칠 수 있다고 지적합니다.
보고서는 이러한 위험을 크게 세 가지 영역으로 나눕니다. 기술 관련 위협에는 인공지능 및 기타 디지털 도구의 오용이 포함됩니다. 유통 관련 위험에는 알고리즘과 신뢰할 수 있는 정보에 대한 불평등한 접근이 포함됩니다. 콘텐츠 관련 위험에는 허위 정보, 괴롭힘 및 혐오 발언이 포함됩니다. 유엔은 디지털 시스템이 사용자가 보는 콘텐츠와 콘텐츠 확산 범위에 영향을 미치기 때문에 이러한 문제들이 서로 상호작용할 수 있다고 지적합니다. 플랫폼이 자동 추천, 데이터 수집 및 개인화된 콘텐츠를 결합할 때 젊은 사용자들은 여러 위험에 동시에 직면할 수 있습니다.
플랫폼 디자인은 더욱 세심한 주의를 기울입니다.
이 보고서는 사용자 관심, 개인 데이터 및 타겟 광고에 의존하는 비즈니스 모델도 검토합니다. 참여도에 초점을 맞춘 시스템은 아동을 극단적인 콘텐츠에 노출시키거나 반복 사용을 유도하는 기능을 제공할 수 있다고 지적합니다. 개인 맞춤형 마케팅은 어린 사용자에게 또 다른 위험 요소를 추가할 수 있습니다. 보고서는 기술 기업과 AI 개발업체에게 제품 설계에 아동의 권리와 안전을 고려할 것을 촉구합니다. 또한 청소년의 온라인 콘텐츠 형성에 영향을 미치는 시스템에 대한 더 큰 책임을 요구합니다.
연령 제한은 소셜 미디어와 아동 안전에 대한 광범위한 논쟁의 일부가 되었습니다. 유엔은 연령 제한만으로는 온라인 정보 위험의 모든 범위를 해결할 수 없다고 밝혔습니다. 디지털 공간은 교육, 사회적 연결, 정서적 지원을 제공하기도 합니다. 젊은이들은 이러한 공간을 활용하여 콘텐츠를 제작하고, 캠페인을 조직하고, 공개 토론에 참여합니다. 유엔은 아동을 보호하는 동시에 학습, 소통, 참여를 지원하는 유용한 디지털 서비스에 대한 접근을 차단하지 않는 안전장치를 마련해야 한다고 강조합니다.
인공지능 안전이 아동 보호 노력의 일환으로 부상하고 있습니다.
인공지능은 온라인 환경에 새로운 우려를 불러일으키고 있습니다. 안토니오 구테레스 유엔 사무총장은 아동이 접근할 수 있는 시스템을 포괄하는 'AI 아동 안전 서약'을 촉구했습니다. 제안된 접근 방식에는 아동 맞춤형 안전성 테스트와 배포 전 강화된 감독이 포함됩니다. 또한 아동이 등장하는 AI 생성 성적 이미지에 대한 강력한 조치를 요구합니다. 유엔의 더 광범위한 노력은 개발자들이 이러한 콘텐츠를 식별, 신고 및 삭제하는 동시에 접근 가능한 AI 시스템에 아동 안전 보호 기능을 구축하도록 촉구합니다.
보고서는 정부, 기술 기업, 광고주, 연구자, 교육자 및 시민 사회 모두가 디지털 유해성 감소에 역할을 해야 한다고 강조합니다. 또한 아동과 청소년이 온라인 공간을 형성하는 결정 과정에 참여해야 한다고 촉구합니다. 이 보고서는 유엔 정보 무결성 글로벌 원칙을 어린 사용자에게 영향을 미치는 문제에 적용합니다. 핵심 메시지는 온라인 플랫폼과 인공지능 시스템이 일상생활에서 더욱 중요해짐에 따라 아동 안전, 정보 무결성 및 디지털 참여가 함께 발전해야 한다는 것입니다.
유엔, 아동 대상 온라인 정보 위험 증가 경고 게시물은 UAE Gazette: UAE의 일일 변화 기록 에 처음으로 게재되었습니다.