뉴욕 – 안토니우 구테흐스 유엔 사무총장은수요일, 인공지능이 생사의 결정을 내리거나 인간의 감독을 벗어나 운영되도록 허용되어서는 안 된다고 경고하며, 세계 각국 정부들이 급속도로 발전하는 기술로 인해 증가하는 위험에 대처하기 위한 강력한 규제 체계를 채택할 것을 촉구했습니다. 뉴욕에서 열린 유엔 안전보장이사회 고위급 토론에서 구테흐스 사무총장은 AI가 이미 전례 없는 속도로 사회, 경제, 그리고 세계 안보 환경을 변화시키고 있다고 말했습니다. 그는 특히 군사 및 안보 분야에서 AI가 인간의 통제 하에 있도록 보장하기 위한 국제 규칙 수립의 시급성을 강조했습니다.
구테흐스 사무총장은 회의에서 “인류의 운명을 알고리즘에 맡겨서는 안 됩니다.”라고 말했습니다. “무력 사용에 대한 결정은 항상 인간의 판단과 국제법의 테두리 안에서 이루어져야 합니다.” 그는 최근 AI 기반 시스템이 자율적인 표적 지정 및 사이버 작전에 활용된 분쟁 사례를 언급하며, 책임 소재와 국제 인도주의 규범 준수에 대한 우려를 제기했습니다. 구테흐스 사무총장은 규제되지 않은 AI 사용이 세계 불안정을 악화시킬 수 있다고 경고하며, 조기 경보 시스템이나 인도주의적 대응을 개선할 수 있는 기술이 민간 인프라에 대한 사이버 공격, 딥페이크를 통한 허위 정보 유포, 그리고 인간의 개입 없이 치명적인 무력 행사를 자동화하는 데에도 사용될 수 있다고 지적했습니다.
구테흐스 사무총장은 회의에서 회원국들이 중점적으로 추진해야 할 네 가지 핵심 분야를 제시했습니다. 무력 사용에 대한 인간의 통제 유지, 포용적이고 일관된 규제 체계 구축, 정보 생태계의 무결성 보호, 그리고 선진국과 개발도상국 간 AI 역량 격차 확대 해소입니다. 그는 AI의 오용을 방지하고 AI가 갈등이 아닌 평화와 발전에 기여하도록 하기 위해서는 이러한 분야의 진전이 필수적이라고 강조했습니다. 이러한 목표를 달성하기 위해 구테흐스 사무총장은 최근 추진 중인 두 가지 사업을 강조했습니다. 하나는 독립적인 전문 지식을 바탕으로 AI 정책을 수립하기 위한 새로운 과학 자문 위원회 설립이고, 다른 하나는 AI 거버넌스에 관한 글로벌 대화(Global Dialogue on AI Governance)의 출범입니다.
AI 거버넌스 형성을 위한 글로벌 대화 시작
이번 주 뉴욕 에서 첫 번째 글로벌 대화 세션이 시작될 예정이며 , 정부, 산업계, 시민사회의 이해관계자들을 한자리에 모아 국제 표준을 마련하는 것을 목표로 합니다. 영국은 책임 있는 AI 사용을 장려하겠다는 의지를 재확인했습니다. 데이비드 래미 부총리는 이사회에 영국이 AI 안전 연구소와 국제 AI 안전 보고서 사무국 유치를 위한 리더십을 통해 핵심적인 역할을 수행할 것이라고 밝혔습니다. 그는 AI 기술의 윤리적 발전을 위한 공통된 국제 표준과 투명성의 필요성을 강조했습니다.
정부와 국제기구의 노력과 더불어 시민사회와 과학계는 구체적인 안전장치 마련을 위한 노력을 강화해 왔습니다. 200명이 넘는 전문가와 유명 인사들이 자율 자기 복제 시스템 및 인간을 사칭하도록 설계된 AI 애플리케이션과 같은 고위험 AI 사용에 대한 국제적인 강제 금지를 촉구하는 ‘AI 레드라인을 위한 글로벌 콜(Global Call for AI Red Lines)’에 서명했습니다. 이 이니셔티브는 2026년까지 중요한 제한 조치에 대한 합의를 도출하는 것을 목표로 합니다. 수요일 안전보장이사회 논의는 유엔 최고 의사결정 기구인 안전보장이사회가 AI가 세계 평화와 안보에 미치는 영향에 대해 가장 직접적으로 논의한 자리였습니다.
모든 국가는 AI의 글로벌 역할을 형성하는 데 도움을 주어야 합니다.
상임이사국과 비상임이사국을 포함한 회원국들은 AI가 제기하는 기회와 위협을 모두 인지하고 규제 체계에 대한 협력 가속화를 촉구했습니다. 구테흐스 사무총장은 연설을 마무리하며, 효과적인 AI 거버넌스는 미룰 수 없다고 강조하며 공동 행동을 촉구했습니다. 그는 기술 발전 여부와 관계없이 모든 국가가 미래 국제 안보에서 AI의 역할을 규정하는 규칙을 수립하는 데 참여해야 한다고 재차 강조했습니다. 그는 또한 지금 내리는 결정들이 AI가 평화를 수호하고 생명을 보호하는 데 활용될지, 아니면 통제되지 않은 AI 사용이 불안정, 불평등, 갈등으로 이어질지를 결정할 것이라고 덧붙였습니다. – 콘텐츠 신디케이션 서비스 제공 .