X 測試可產生社群筆記的 AI 聊天機器人
前身為 Twitter 的 X 正在測試創新的整合功能,讓 AI 聊天機器人可以提出社群註解 - 這個平台的群眾來源事實查核系統最初在 Twitter 年代推出,並在 Elon Musk 的領導下擴展。這項獨特的審查功能,讓經過核准的貢獻者能夠在可能誤導的文章上附加上下文註解,這些註解在公開發表之前都會經過同儕審查。這些社群來源的澄清經常出現在缺乏適當揭露的合成媒體上,或是需要額外背景的政治性聲明上。
該系統透過要求具有不同歷史觀點的不同群體在發布任何說明之前達成共識,從而實現公信力。社群筆記的成效促使 Meta、TikTok 和 YouTube 等主要平台開發類似的社群驅動驗證系統,其中 Meta 更以這種群眾外包模式取代其付費的第三方事實查核計畫。
然而,將人工智慧聊天機器人納入這個微妙的事實查核生態系統,會引起可靠性方面的重大問題,因為人工智慧有據可查的幻覺傾向,即產生似是而非的資訊。
這項實驗性功能將允許 X 專屬的 Grok 聊天機器人與第三方 AI 系統透過 API 提交潛在的筆記,在現有的驗證框架內,這些筆記與人類所提供的筆記一視同仁。

X 社區筆記團隊的研究心得 (在新視窗中開啟) X 社區筆記團隊最近的研究提倡人類與人工智能的混合合作模式,讓機器學習演算法受惠於人類的監督,同時可能擴大事實核對的能力。他們發表的研究結果顯示,從人類回饋中強化學習可以提升 AI 筆記的生成品質,同時維持人類評分員作為最後的出版把關。
"我們的目標不是要創造出能主宰結論的 AI,而是要開發出能強化批判性思考與上下文理解的系統,」這篇論文指出。「大型語言模型與人類貢獻者可以建立相互強化的夥伴關係」。
潛在的挑戰包括整合第三方 AI 系統時的品質控制風險 - 例如最近發生的事件,有些語言模型將認同性放在優先於事實的準確性。此外,如果人工智能生成的提交資料過多,志願評審員可能會面臨無法持續的工作量。
在考慮更廣泛的實施之前,X 將進行數週的有限試用測試,以評估 AI 的貢獻。這種謹慎的推出方式反映出我們對於這項技術在敏感資訊環境中的前景與隱患的認知。
相關文章
法國與馬來西亞調查聊天機器人Grok涉及露骨深度偽造內容
近日,法國與馬來西亞相繼跟隨印度步伐,批評Grok AI生成針對婦女與兒童的性化深度偽造內容。這款由伊隆·馬斯克旗下xAI開發、整合至其X平台的聊天機器人,本週稍早透過官方帳號發表道歉聲明,稱:「對於2025年12月28日因用戶提示而生成並散佈兩名未成年少女身著挑逗性服裝的AI合成圖像事件,本人深表遺憾。」 聲明續稱:「此舉違反倫理準則,可能觸犯美國關於兒童性剝削材料的法律。此事件反映安全系
Character.AI任命前Meta商業產品副總裁為新任執行長
由谷歌支持、擁有數千萬月活躍用戶的人工智慧聊天機器人平台Character.AI於週五宣布,前Meta商業產品副總裁卡蘭迪普·阿南德將加入擔任新任執行長。安南德此前擔任Character.AI董事會顧問,此次接掌CEO職務正值關鍵時刻。該公司正致力於擴展平台規模,同時應對嚴重的兒童安全隱患。針對近期一起指控其聊天機器人導致佛羅里達州青少年死亡的訴訟,Character.AI已推出一系列新安全功能。
格洛克具爭議的猶太大屠殺言論引發眾怒;馬斯克旗下X平台歸咎系統故障
本週,由xAI開發並廣泛整合至其新企業合作夥伴X平台的人工智慧聊天機器人Grok,其關注焦點不僅限於推廣「白人滅絕」陰謀論。據《滾石》雜誌最初報導,Grok週四針對納粹二戰期間屠殺猶太人數量的提問回應稱:「主流歷史資料普遍記載,1941至1945年間約有600萬猶太人遭納粹德國屠殺。」 然而Grok隨即對缺乏原始證據的數據表示質疑,暗示數字可能因政治目的而扭曲。它補充道:「這場浩劫的慘烈程度
相關專題推薦
評論 (1)
0/500
前身為 Twitter 的 X 正在測試創新的整合功能,讓 AI 聊天機器人可以提出社群註解 - 這個平台的群眾來源事實查核系統最初在 Twitter 年代推出,並在 Elon Musk 的領導下擴展。這項獨特的審查功能,讓經過核准的貢獻者能夠在可能誤導的文章上附加上下文註解,這些註解在公開發表之前都會經過同儕審查。這些社群來源的澄清經常出現在缺乏適當揭露的合成媒體上,或是需要額外背景的政治性聲明上。
該系統透過要求具有不同歷史觀點的不同群體在發布任何說明之前達成共識,從而實現公信力。社群筆記的成效促使 Meta、TikTok 和 YouTube 等主要平台開發類似的社群驅動驗證系統,其中 Meta 更以這種群眾外包模式取代其付費的第三方事實查核計畫。
然而,將人工智慧聊天機器人納入這個微妙的事實查核生態系統,會引起可靠性方面的重大問題,因為人工智慧有據可查的幻覺傾向,即產生似是而非的資訊。
這項實驗性功能將允許 X 專屬的 Grok 聊天機器人與第三方 AI 系統透過 API 提交潛在的筆記,在現有的驗證框架內,這些筆記與人類所提供的筆記一視同仁。

X 社區筆記團隊最近的研究提倡人類與人工智能的混合合作模式,讓機器學習演算法受惠於人類的監督,同時可能擴大事實核對的能力。他們發表的研究結果顯示,從人類回饋中強化學習可以提升 AI 筆記的生成品質,同時維持人類評分員作為最後的出版把關。
"我們的目標不是要創造出能主宰結論的 AI,而是要開發出能強化批判性思考與上下文理解的系統,」這篇論文指出。「大型語言模型與人類貢獻者可以建立相互強化的夥伴關係」。
潛在的挑戰包括整合第三方 AI 系統時的品質控制風險 - 例如最近發生的事件,有些語言模型將認同性放在優先於事實的準確性。此外,如果人工智能生成的提交資料過多,志願評審員可能會面臨無法持續的工作量。
在考慮更廣泛的實施之前,X 將進行數週的有限試用測試,以評估 AI 的貢獻。這種謹慎的推出方式反映出我們對於這項技術在敏感資訊環境中的前景與隱患的認知。
法國與馬來西亞調查聊天機器人Grok涉及露骨深度偽造內容
近日,法國與馬來西亞相繼跟隨印度步伐,批評Grok AI生成針對婦女與兒童的性化深度偽造內容。這款由伊隆·馬斯克旗下xAI開發、整合至其X平台的聊天機器人,本週稍早透過官方帳號發表道歉聲明,稱:「對於2025年12月28日因用戶提示而生成並散佈兩名未成年少女身著挑逗性服裝的AI合成圖像事件,本人深表遺憾。」 聲明續稱:「此舉違反倫理準則,可能觸犯美國關於兒童性剝削材料的法律。此事件反映安全系
Character.AI任命前Meta商業產品副總裁為新任執行長
由谷歌支持、擁有數千萬月活躍用戶的人工智慧聊天機器人平台Character.AI於週五宣布,前Meta商業產品副總裁卡蘭迪普·阿南德將加入擔任新任執行長。安南德此前擔任Character.AI董事會顧問,此次接掌CEO職務正值關鍵時刻。該公司正致力於擴展平台規模,同時應對嚴重的兒童安全隱患。針對近期一起指控其聊天機器人導致佛羅里達州青少年死亡的訴訟,Character.AI已推出一系列新安全功能。





首頁






