AI 구동성 잘못된 정보는 최고의 글로벌 위험으로 확인되었습니다

우리가 향후 2 년 동안 수많은 국가들이 선거를 준비하고있는 기간에 접근함에 따라, 인공 지능 (AI)에 의해 터보 차지 된 잘못된 정보와 정보의 위협은 가장 중요한 글로벌 위험으로 크게 나타납니다. 이 문제는 세계 경제 포럼 (WEF)의 글로벌 리스크 보고서 2024에 의해 강조되어 있으며, 이는 사회적 불안과 위조 된 정보의 얽힌 것이 특히 주요 경제가 선거를 보유하고 있음을 강조한다.

생활비에 대한 불안이 커지면서 AI- 연료 잘못된 정보와 관련된 위험은 올해 다른 문제를 어둡게 할 것입니다. WEF에 따르면, 잘못된 정보와 정보는 세계적 위험 목록을 차지하고 극심한 날씨 사건과 사회적 분극이 뒤따를 것입니다. 이 보고서는 또한 상위 5 개 위험 사이의 사이버 불안과 주간 무기 충돌을 나열합니다.

위험 인식의 지역 변화

잘못된 정보와 정보는 인도의 최고 위험으로 간주되지만 미국에서는 6 위, 유럽 연합에서 8 위입니다. WEF는 정교한 기술에 쉽게 접근하고 정보 및 기관에 대한 신뢰 감소로 인해 조작 된 정보의 능력에 대한 빠른 가속이 상황을 악화 시킨다고 지적했다.

합성 함량의 영향

향후 몇 년 동안, 다양한 행위자들이 합성 내용의 급증을 악용하고, 사회적 분열, 이데올로기 적 폭력 및 정치적 억압을 더욱 강화시킬 것으로 예상된다. 거의 30 억 명의 사람들이 인도, 인도네시아, 미국 및 영국과 같은 국가에서 투표를 시작하면서 잘못된 정보의 광범위한 보급으로 인해 새로 선출 된 정부의 정당성을 위태롭게 할 수 있습니다.

사용자 친화적 인 AI 도구에 쉽게 액세스 할 수 있으므로 이미 위조 된 정보 및 고급 음성 클로닝 및 가짜 웹 사이트와 같은 "합성"컨텐츠가 붐을 일으켰습니다. WEF는이 합성 내용이 향후 2 년 동안 개인, 경제 및 골절 사회를 여러 가지 방식으로 조작 할 것이라고 경고하며, 기후 운동에서 갈등에 이르기까지 다양한 목적으로 사용될 가능성이있다.

새로운 위협 및 규제 대응

비 합당한 심해 포르노 및 주식 시장 조작과 같은 새로운 유형의 범죄도 증가하고 있습니다. WEF는 이러한 문제가 폭력적인 항의, 증오 범죄, 민사 갈등 및 테러로 이어질 수 있다고 경고합니다.

이에 따라 일부 국가는 이미 온라인 및 불법 콘텐츠의 호스트 및 제작자를 대상으로 새로운 규정을 구현하고 있습니다. AI 생성 컨텐츠 워터 마크에 대한 중국의 요구 사항과 같은 생성 AI의 초기 규제는 AI 생성 컨텐츠의 의도하지 않은 잘못된 정보를 포함하여 잘못된 정보를 식별하는 데 도움이 될 수 있습니다. 그러나 WEF는 규제의 속도가 빠른 기술 개발을 유지하지는 않을 것이라고 지적했다.

최근의 기술 발전으로 인해 위조 된 정보의 양, 도달 범위 및 효과가 증가하여 추적, 속성 및 제어가 더 어려워졌습니다. 청렴성을 유지하는 소셜 미디어 플랫폼은 여러 개의 중첩 캠페인에 압도 될 수 있습니다. 더욱이, 정보는 점점 더 개인화되고 타겟팅되고 있으며, WhatsApp 또는 WeChat과 같은 투명한 메시징 플랫폼을 통해 종종 확산됩니다.

AI 생성 된 컨텐츠를 구별하는 데 어려움이 있습니다

WEF는 또한 정교한 탐지 시스템과 기술에 정통한 개인의 경우에도 AI 생성 된 컨텐츠와 인간 생성 콘텐츠를 구별하는 데 어려움이 증가 함을 강조합니다. 그러나 일부 국가에서는이 도전을 해결하기위한 조치를 취하고 있습니다.

싱가포르의 딥 페이크와 싸우기위한 이니셔티브

싱가포르는 온라인 신탁 및 안전 연구 프로그램에 대한 2 천만 달러 (1,500 만 달러)의 투자를 발표했으며, 여기에는 유해한 온라인 컨텐츠와 싸우는 도구를 개발하는 센터를 설립하는 것이 포함됩니다. MCI (Communications and Information)가 이끄는이 이니셔티브는 2028 년까지 운영 될 예정입니다.

2024 년 상반기에 출시 될 예정인 온라인 안전의 고급 기술 센터는 연구원과 조직을 모아보다 안전한 인터넷을위한 강력한 생태계를 만들기 위해 목표를 세우는 것을 목표로합니다. 이 센터는 심해 및 허위 주장과 같은 유해한 콘텐츠를 감지하기위한 도구를 개발하고 사용자 정의하는 데 중점을 둘 것이며, 사회적 취약성을 식별하고 유해한 콘텐츠에 대한 감수성을 줄이기 위해 중재를 개발하는 데 도움이됩니다.

MCI는 이미 학계 및 공공 및 민간 부문의 100 명 이상의 전문가와 약혼했으며 30 명의 참가자가 센터 작업에 직접 참여했습니다. 개발 된 도구는 워터 마킹 및 컨텐츠 인증과 같은 기술을 통해 디지털 신뢰를 향상시키기 위해 채택을 위해 테스트 및 제안 될 것입니다.

잘못된 정보의 더 넓은 의미

WEF는 확인되지 않은 상태로 유지하면 잘못된 정보가 두 가지 대조적 인 시나리오로 이어질 수 있다고 경고합니다. 한편으로, 일부 정부와 플랫폼은 언론의 언론과 시민의 자유를 우선 순위로 삼고, 잠재적으로 위조 된 정보를 효과적으로 억제하지 못하여 사회 전체에 걸쳐 '진실'에 대한 논쟁적인 정의로 이어질 수 있습니다. 이것은 국가와 비 국가 행위자들에 의해 사회적 분열을 심화시키고 정치 제도에 대한 대중의 신뢰를 약화 시키며 국가적 응집력을 위협하기 위해 악용 될 수있다.

반면에, 잘못된 정보의 확산에 따라 일부 국가는 정보 통제 증가, 국내 선전 및 검열 위험에 의존 할 수 있습니다. 진실의 개념이 손상됨에 따라 정부는 '진실'에 대한 정의에 따라 정보를 통제 할 수있는 더 많은 힘을 얻을 수 있으며, 잠재적으로 정보 흐름의 더 넓은 억압과 인터넷, 언론 및 정보 액세스 자유의 침식을 초래할 수 있습니다.