小學生畫鬍子騙過AI年齡驗證,令矽谷工程師啞口無言
在全球監管日益收緊的背景下,主要社交網路已實施嚴格的年齡驗證協議,以限制未成年人訪問特定功能。為保護使用者隱私,許多平臺採用了一種創新的裝置端面部年齡估算系統。然而,諷刺的是,這項先進技術最近卻被線上“業餘專家”以極其低科技的手段輕鬆繞過。

簡單的繪畫和假鬍鬚成功透過驗證
在一項旨在測試 AI 能力的輕鬆實驗中,一名 12 歲男孩用眉筆在嘴唇上方畫了鬍子,被準確估算為 15 歲,成功透過了驗證。更有趣的是,一些使用者僅僅在拇指上畫了兩個點和一條線來代表眼睛和嘴巴。當按照提示左右移動頭部時,AI 判定該主體年齡在 13 至 15 歲之間。
輕量級模型的技術弱點
這一令人尷尬的漏洞源於這些年齡估算模型完全在使用者裝置上執行。由於計算能力有限,模型不能過於複雜。AI 主要依賴眼睛形狀和皮膚紋理等視覺線索進行近似推斷。此外,為了避免在初始推廣期間錯誤地阻止合法使用者,平臺設定的判斷閾值相對寬鬆,從而為精心設計的欺騙行為留下了可乘之機。
相關文章
人工智慧初創公司加速收入增長
隨著成熟企業和新興初創公司競相利用人工智慧,眾多AI初創公司報告稱,其收入不僅正在增長,而且增速正在加快,實現後續里程碑的時間越來越短。以下初創公司展示了這種飛輪式增長的一致模式。需要注意的是,儘管這些公司都使用“ARR”這一術語,但其底層指標各不相同。有些公司指的是年化經常性收入(ARR),即來自付費客戶的合同收入但尚未開票。另一些公司使用年化執行率收入,根據最近一個月的收入率計算12個月的收入來預測年收入。少數公司指的是“承諾的ARR”,代表來自尚未入職客戶的已簽署合同。在Gusto的案例
騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%
隨著大模型強化學習擴充套件到更大的 GPU 叢集和更密集的訓練資料集,訓練效率已成為關鍵優先事項。騰訊混元團隊最近的研究解決了一個常被忽視的挑戰:當模型生成自己的訓練資料時,鑑於 rollout 生成和訓練的不同速度,應該如何重新定義批次大小(batch size)?該研究基於經典的關鍵批次大小(critical batch size)理論,重新推導了線上大語言模型強化學習中的這一概念。研究結果提供了一個實用解決方案:隨著批次大小的增加,在特定範圍內調整學習率,GRPO 和 PPO 演算法均可確保每
Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司
阿賈德·馬薩德(Amjad Masad)在過去十年裡致力於構建 Replit,然而過去的 18 個月卻是一個變革性的時期。這家 AI 編碼平臺從 2024 年 280 萬美元的年收入激增,正朝著馬薩德所稱的“十億美元年度執行率”邁進。在週四晚於舊金山舉行的 TechCrunch 售罄的 StrictlyVC 活動上,我們進行了廣泛的討論,從業界迫切的問題開始:據報道,競爭對手 Cursor 正在與 SpaceX 洽談 600 億美元的收購案,那麼 Replit 是否也註定會被出售?我們還討論了
相關專題推薦
評論 (0)
0/500
在全球監管日益收緊的背景下,主要社交網路已實施嚴格的年齡驗證協議,以限制未成年人訪問特定功能。為保護使用者隱私,許多平臺採用了一種創新的裝置端面部年齡估算系統。然而,諷刺的是,這項先進技術最近卻被線上“業餘專家”以極其低科技的手段輕鬆繞過。

簡單的繪畫和假鬍鬚成功透過驗證
在一項旨在測試 AI 能力的輕鬆實驗中,一名 12 歲男孩用眉筆在嘴唇上方畫了鬍子,被準確估算為 15 歲,成功透過了驗證。更有趣的是,一些使用者僅僅在拇指上畫了兩個點和一條線來代表眼睛和嘴巴。當按照提示左右移動頭部時,AI 判定該主體年齡在 13 至 15 歲之間。
輕量級模型的技術弱點
這一令人尷尬的漏洞源於這些年齡估算模型完全在使用者裝置上執行。由於計算能力有限,模型不能過於複雜。AI 主要依賴眼睛形狀和皮膚紋理等視覺線索進行近似推斷。此外,為了避免在初始推廣期間錯誤地阻止合法使用者,平臺設定的判斷閾值相對寬鬆,從而為精心設計的欺騙行為留下了可乘之機。
人工智慧初創公司加速收入增長
隨著成熟企業和新興初創公司競相利用人工智慧,眾多AI初創公司報告稱,其收入不僅正在增長,而且增速正在加快,實現後續里程碑的時間越來越短。以下初創公司展示了這種飛輪式增長的一致模式。需要注意的是,儘管這些公司都使用“ARR”這一術語,但其底層指標各不相同。有些公司指的是年化經常性收入(ARR),即來自付費客戶的合同收入但尚未開票。另一些公司使用年化執行率收入,根據最近一個月的收入率計算12個月的收入來預測年收入。少數公司指的是“承諾的ARR”,代表來自尚未入職客戶的已簽署合同。在Gusto的案例
騰訊混元將關鍵點大小理論整合到 PPO 強化學習中,使吞吐量提升 2.29 倍,並將 GRPO 訓練時間縮短 29%
隨著大模型強化學習擴充套件到更大的 GPU 叢集和更密集的訓練資料集,訓練效率已成為關鍵優先事項。騰訊混元團隊最近的研究解決了一個常被忽視的挑戰:當模型生成自己的訓練資料時,鑑於 rollout 生成和訓練的不同速度,應該如何重新定義批次大小(batch size)?該研究基於經典的關鍵批次大小(critical batch size)理論,重新推導了線上大語言模型強化學習中的這一概念。研究結果提供了一個實用解決方案:隨著批次大小的增加,在特定範圍內調整學習率,GRPO 和 PPO 演算法均可確保每
Replit的Amjad Masad談Cursor交易、與蘋果的競爭,以及他為何不願出售公司
阿賈德·馬薩德(Amjad Masad)在過去十年裡致力於構建 Replit,然而過去的 18 個月卻是一個變革性的時期。這家 AI 編碼平臺從 2024 年 280 萬美元的年收入激增,正朝著馬薩德所稱的“十億美元年度執行率”邁進。在週四晚於舊金山舉行的 TechCrunch 售罄的 StrictlyVC 活動上,我們進行了廣泛的討論,從業界迫切的問題開始:據報道,競爭對手 Cursor 正在與 SpaceX 洽談 600 億美元的收購案,那麼 Replit 是否也註定會被出售?我們還討論了





首頁






