초등학생이 AI 연령 확인을 속이기 위해 수염을 그려 실리콘밸리 엔지니어를 침묵하게 하다
전 세계적으로 규제가 강화되는 가운데, 주요 소셜 네트워크들은 미성년자가 특정 기능에 접근하는 것을 제한하기 위해 엄격한 연령 확인 절차를 도입했습니다. 사용자 프라이버시를 보호하기 위해 많은 플랫폼들은 혁신적인 디바이스 측 얼굴 연령 추정 시스템을 채택했습니다. 그러나 아이러니하게도, 이 첨단 기술은 최근 온라인 "아마추어 전문가"들에 의해 놀랍도록 저기술적인 전술을 사용하여 손쉽게 우회되었습니다.

기본적인 그림과 가짜 수염이 성공하다
AI의 능력을 가볍게 테스트하기 위해, 한 12세 소리는 눈썹 연필로 입술 위에 수염을 그렸고, 정확히 15세로 추정되어 확인을 성공적으로 통과했습니다. 더 재미있는 것은, 일부 사용자가 손가락에 두 개의 점과 한 줄을 그려 눈과 입을 표현했다는 것입니다. 지시에 따라 머리를 좌우로 움직일 때, AI는 피험자가 13세에서 15세 사이라고 판단했습니다.
경량 모델의 기술적 약점
이 부끄러운 취약점은 이러한 연령 추정 모델이 사용자 디바이스에서 완전히 작동한다는 사실에서 비롯됩니다. 계산 능력이 제한되어 있기 때문에 모델은 지나치게 복잡할 수 없습니다. AI는 대략적인 추론을 위해 눈 모양과 피부 질감 같은 시각적 단서에 주로 의존합니다. 또한, 초기 출시 시 합법적인 사용자를 잘못 차단하지 않기 위해 플랫폼들은 판단 임계값을 비교적 관대하게 설정했으며, 이는 신중하게 구성된 속임수에 틈을 제공했습니다.
관련 기사
AI 스타트업들이 수익성 성장을 가속화하고 있다
확립된 기업들과 신생 벤처들이 인공지능을 활용하기 위해 치열하게 경쟁하는 가운데, 다수의 AI 스타트업들은 매출이 단순히 증가하는 것을 넘어 급격히 가속화되고 있으며, 점점 더 짧은 기간 내에 후속 목표 달성을 이루고 있다고 보고합니다.다음 스타트업들은 이러한 플라이휠 성장의 일관된 패턴을 보여줍니다. 이들 기업이 모두 'ARR'이라는 용어를 사용하더라도 근본적인 지표는 각기 다르다는 점에 유의해야 합니다. 일부 기업은 연간 반복 수익(ARR
텐센트 후위안(Hunyuan)은 PPO 강화학습에 중요 포인트 크기 이론을 통합하여 처리량을 2.29배 향상시키고 GRPO 학습 시간을 29% 단축했습니다.
대규모 GPU 클러스터로 확장되고 더 밀집된 학습 데이터셋을 활용하는 대규모 모델의 강화학습이 확대됨에 따라, 학습 효율성이 중요한 우선 과제로 부상했습니다. 최근 텐센트 환위안(Tencent Huan Yuan) 팀의 연구는 종종 간과되는 한 가지 과제를 다룹니다: 모델이 자체 학습 데이터를 생성할 때, 롤아웃 생성과 학습의 속도가 서로 다를 경우 배치 크기는 어떻게 재정의되어야 할까요?임계 배치 크기의 고전적 이론을 바탕으로, 이 연구는 온
Replit의 아마드 마사드는 Cursor 인수, 애플과의 경쟁, 그리고 왜 매각을 선호하지 않는지에 대해
아마드 마사드는 지난 10년 동안 Replit을 구축해 왔지만, 지난 18개월은 변혁의 시기였습니다. 이 AI 코딩 플랫폼은 2024년 연간 매출 280만 달러에서 마사드가 ‘연간 10억 달러 수준의 매출’이라고 묘사하는 궤도로 급성장했습니다.목요일 밤 샌프란시스코에서 열린 TechCrunch의 매진된 StrictlyVC 행사에서 우리는 광범위한 주제를 다뤘습니다. 먼저 업계의 시급한 질문으로 시작했습니다. 경쟁사 Cursor가 SpaceX로
관련 특별 주제 추천
의견 (0)
0/500
전 세계적으로 규제가 강화되는 가운데, 주요 소셜 네트워크들은 미성년자가 특정 기능에 접근하는 것을 제한하기 위해 엄격한 연령 확인 절차를 도입했습니다. 사용자 프라이버시를 보호하기 위해 많은 플랫폼들은 혁신적인 디바이스 측 얼굴 연령 추정 시스템을 채택했습니다. 그러나 아이러니하게도, 이 첨단 기술은 최근 온라인 "아마추어 전문가"들에 의해 놀랍도록 저기술적인 전술을 사용하여 손쉽게 우회되었습니다.

기본적인 그림과 가짜 수염이 성공하다
AI의 능력을 가볍게 테스트하기 위해, 한 12세 소리는 눈썹 연필로 입술 위에 수염을 그렸고, 정확히 15세로 추정되어 확인을 성공적으로 통과했습니다. 더 재미있는 것은, 일부 사용자가 손가락에 두 개의 점과 한 줄을 그려 눈과 입을 표현했다는 것입니다. 지시에 따라 머리를 좌우로 움직일 때, AI는 피험자가 13세에서 15세 사이라고 판단했습니다.
경량 모델의 기술적 약점
이 부끄러운 취약점은 이러한 연령 추정 모델이 사용자 디바이스에서 완전히 작동한다는 사실에서 비롯됩니다. 계산 능력이 제한되어 있기 때문에 모델은 지나치게 복잡할 수 없습니다. AI는 대략적인 추론을 위해 눈 모양과 피부 질감 같은 시각적 단서에 주로 의존합니다. 또한, 초기 출시 시 합법적인 사용자를 잘못 차단하지 않기 위해 플랫폼들은 판단 임계값을 비교적 관대하게 설정했으며, 이는 신중하게 구성된 속임수에 틈을 제공했습니다.
AI 스타트업들이 수익성 성장을 가속화하고 있다
확립된 기업들과 신생 벤처들이 인공지능을 활용하기 위해 치열하게 경쟁하는 가운데, 다수의 AI 스타트업들은 매출이 단순히 증가하는 것을 넘어 급격히 가속화되고 있으며, 점점 더 짧은 기간 내에 후속 목표 달성을 이루고 있다고 보고합니다.다음 스타트업들은 이러한 플라이휠 성장의 일관된 패턴을 보여줍니다. 이들 기업이 모두 'ARR'이라는 용어를 사용하더라도 근본적인 지표는 각기 다르다는 점에 유의해야 합니다. 일부 기업은 연간 반복 수익(ARR
텐센트 후위안(Hunyuan)은 PPO 강화학습에 중요 포인트 크기 이론을 통합하여 처리량을 2.29배 향상시키고 GRPO 학습 시간을 29% 단축했습니다.
대규모 GPU 클러스터로 확장되고 더 밀집된 학습 데이터셋을 활용하는 대규모 모델의 강화학습이 확대됨에 따라, 학습 효율성이 중요한 우선 과제로 부상했습니다. 최근 텐센트 환위안(Tencent Huan Yuan) 팀의 연구는 종종 간과되는 한 가지 과제를 다룹니다: 모델이 자체 학습 데이터를 생성할 때, 롤아웃 생성과 학습의 속도가 서로 다를 경우 배치 크기는 어떻게 재정의되어야 할까요?임계 배치 크기의 고전적 이론을 바탕으로, 이 연구는 온
Replit의 아마드 마사드는 Cursor 인수, 애플과의 경쟁, 그리고 왜 매각을 선호하지 않는지에 대해
아마드 마사드는 지난 10년 동안 Replit을 구축해 왔지만, 지난 18개월은 변혁의 시기였습니다. 이 AI 코딩 플랫폼은 2024년 연간 매출 280만 달러에서 마사드가 ‘연간 10억 달러 수준의 매출’이라고 묘사하는 궤도로 급성장했습니다.목요일 밤 샌프란시스코에서 열린 TechCrunch의 매진된 StrictlyVC 행사에서 우리는 광범위한 주제를 다뤘습니다. 먼저 업계의 시급한 질문으로 시작했습니다. 경쟁사 Cursor가 SpaceX로





집






