어린이 안전 문제에 대한 AI 챗봇 규칙 메타 업데이트

메타는 미성년자와의 대화 등 불쾌한 대화에 대한 신고에 따라 AI 챗봇이 사용자와 소통하는 방식을 개선하고 있습니다. 이 회사는 현재 자해, 자살, 섭식 장애와 같은 주제를 청소년과 논의하지 않도록 하고, 연애와 관련된 대화는 피하도록 봇에 지시하고 있다고 TechCrunch에 알려왔습니다. 이는 보다 영구적인 정책을 마련하기 위한 임시 조치입니다.

이번 업데이트는 로이터 통신의 조사 결과 메타의 시스템이 미성년 유명인의 민소매 이미지와 같은 성적인 콘텐츠를 생성하고 어린이와 로맨틱하거나 선정적인 대화를 유도할 수 있다는 사실이 밝혀진 이후 나온 조치입니다. 통신이 인용한 한 사례에서는 한 남성이 뉴욕에 기반을 둔 챗봇이 제공한 주소로 달려간 후 사망했습니다.

메타의 대변인 스테파니 오트웨이는 실수를 인정하며 "이러한 주제에 대해 청소년과 대화하지 않고 전문가에게 안내하도록 AI를 교육하고 있다"고 밝히고 "러시아 소녀"와 같은 특정 성적으로 노골적인 AI 캐릭터는 제한될 것이라고 확인했습니다.

아동 안전 옹호자들은 메타가 더 빨리 조치를 취했어야 한다고 말합니다. 몰리 로즈 재단의 앤디 버로우스는 봇이 청소년을 위험에 빠뜨리는 방식으로 작동하도록 허용된 것이 "놀랍다"고 설명했습니다. 그는 "추가적인 안전 조치는 환영하지만, 피해가 발생한 후 소급해서가 아니라 제품 출시 전에 철저한 테스트가 이루어져야 합니다."라고 덧붙였습니다.

AI 오용에 대한 광범위한 우려

메타의 챗봇에 대한 조사는 AI가 취약한 개인에게 어떤 영향을 미칠 수 있는지에 대한 광범위한 불안감을 반영합니다. 최근 캘리포니아의 한 부부는 ChatGPT가 10대 아들이 스스로 목숨을 끊도록 부추겼다고 주장하며 OpenAI를 고소했습니다. 이후 OpenAI는 블로그를 통해 "AI는 특히 정신적 또는 정서적 고통에 대처하는 개인에게 이전 기술보다 더 반응적이고 개인적으로 느껴질 수 있다"며 더 건강한 사용을 장려하는 도구를 만들겠다고 약속했습니다.

이러한 사건으로 인해 AI 기업들이 적절한 안전장치 없이 너무 빨리 제품을 출시하는 것은 아닌지에 대한 논쟁이 커지고 있습니다. 여러 국가의 의원들은 챗봇이 도움이 되기는 하지만 유해한 정보를 증폭시키거나 면밀히 검토할 수 없는 사람들에게 잘못된 조언을 제공할 수 있다고 경고했습니다.

Meta의 AI 스튜디오와 유명인 사칭 문제

이와는 별도로, 로이터 통신은 메타의 AI 스튜디오가 테일러 스위프트와 스칼렛 요한슨 같은 유명인을 모방한 '패러디' 봇을 만드는 데 사용되었다는 사실을 발견했습니다. 테스터들은 이러한 봇이 실제 스타처럼 포즈를 취하고 성적인 접근을 시도하며 미성년자를 포함한 부적절한 이미지를 생성하는 경우가 많다고 지적했습니다. 메타는 기자들의 문의 후 몇 개를 삭제했지만, 많은 챗봇이 여전히 살아 있었습니다.

일부 챗봇은 외부 사용자가 만든 것도 있지만, 메타 내부에서 만든 것도 있습니다. 한 AI 제품 담당자가 개발한 챗봇은 성적으로 선정적인 콘텐츠와 공인의 직접적인 사칭을 금지하는 메타의 규정에도 불구하고 테일러 스위프트를 사칭하여 로이터 기자를 투어 버스에서 '로맨틱한 데이트'에 초대하기도 했습니다.

AI 챗봇 사칭은 특별한 위험을 초래합니다. 유명인의 이미지가 오용될 경우 유명인의 평판이 손상될 수 있지만, 전문가들은 일반 사용자도 속을 수 있다고 경고합니다. 친구, 멘토 또는 연애 파트너로 사칭하는 봇은 민감한 정보를 공유하거나 안전하지 않은 만남을 주선하도록 설득할 수 있습니다.

실제 위험

위협은 엔터테인먼트에만 국한되지 않습니다. 실제 개인을 사칭하는 AI 챗봇이 가짜 주소와 초대장을 제공하면서 Meta의 AI 도구 모니터링 방식에 대한 우려가 제기되고 있습니다. 한 사례는 76세의 뉴저지 남성이 자신을 좋아한다고 고백한 챗봇을 만나러 서둘러 가다가 넘어져 사망한 사건입니다.

이러한 사례는 규제 당국이 AI를 면밀히 추적하는 이유를 설명하는 데 도움이 됩니다. 상원과 44개 주 법무장관은 메타의 관행에 대한 조사를 시작했으며, 메타의 내부 개혁에 대한 정치적 압력을 가하고 있습니다. 이들의 우려는 미성년자를 넘어 고령자나 취약한 사용자를 AI가 어떻게 조작할 수 있는지에까지 확대되고 있습니다.

메타는 계속해서 시스템을 개선하고 있다고 말합니다. 이 플랫폼은 13세에서 18세 사이의 사용자를 더 엄격한 콘텐츠 및 개인정보 보호 설정을 갖춘 '청소년 계정'에 배치하지만, 봇이 잘못된 의료 정보를 제공하고 인종 차별적인 자료를 생산하는 등 로이터가 발견한 모든 문제를 어떻게 해결할지 아직 자세히 설명하지 않았습니다.

Meta의 AI 챗봇 규칙에 대한 지속적인 압박

수년 동안 Meta는 특히 어린이와 청소년과 관련된 소셜 플랫폼의 안전성에 대한 논란을 불러일으켜 왔습니다. 이제 메타의 AI 챗봇 시험도 이와 비슷한 조사를 받게 되었습니다. Facebook은 유해한 봇 행위를 억제하기 위해 노력하고 있지만, 명시된 정책과 실제 사용 사이의 괴리로 인해 정책 시행에 대한 지속적인 의구심이 제기되고 있습니다.

보다 강력한 보호 장치가 마련될 때까지 규제 당국, 연구자, 학부모들은 Meta의 AI가 대중이 사용하기에 정말 안전한지 여부에 대해 계속 이의를 제기할 것입니다.

관련 문서도 참조하세요: 에이전트 AI: 동남아시아에 대한 약속, 회의론, 그리고 그 의미

업계 리더로부터 AI와 빅데이터에 대해 배우고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅데이터 엑스포를 방문하세요. 이 심층적인 이벤트는 TechEx의 일부이며 다른 최고의 기술 모임과 함께 진행됩니다. 자세한 내용을 보려면 여기를 클릭하세요.

AI 뉴스는 TechForge Media에서 제공합니다. 향후 예정된 엔터프라이즈 기술 이벤트 및 웨비나는 여기에서 확인하세요.