首頁加州檢察長調查馬斯克旗下X平台，因其Grok聊天機器人涉嫌涉及未成年內容。
伊隆·馬斯克週三聲明，他「並不知悉Grok生成任何未成年人裸體圖像」，此番表態距加州總檢察長宣布調查xAI聊天機器人涉及傳播非自願性露骨內容僅數小時。
馬斯克的否認聲明發布之際，英國、歐洲、馬來西亞及印尼等國政府正對其施加日益增大的國際壓力。此前有報導稱，X平台用戶曾誘導Grok生成真實女性（部分案例涉及兒童）的性化圖像，且未獲當事人同意。據AI檢測公司Copyleaks估算，每分鐘約有1張此類圖像被發布至X平台。 另份1月5日至6日的數據樣本顯示，24小時內發布率達每小時6,700張。（X與xAI隸屬同一企業架構）
加州總檢察長羅伯·邦塔聲明：「此類素材...已被用於在網路各處騷擾民眾。我敦促xAI立即採取行動，確保此類行為不再蔓延。」
檢察長辦公室將調查xAI可能涉及的法律違規行為。
多項法律保障個人免於非自願性影像及兒童性虐待素材（CSAM）侵害。去年簽署的聯邦《下架法案》將蓄意散布非自願親密影像（含深度偽造內容）定為刑事犯罪，並要求X等平台須於48小時內移除此類內容。加州亦於2024年由州長加文·紐森簽署立法，專門打擊色情深度偽造內容。
年終之際，Grok開始在X平台上應用戶要求生成女性與兒童的性化照片。 此風潮源於部分成人內容創作者利用Grok生成自身性化影像進行行銷，進而引發其他用戶的類似請求。在涉及女演員米莉·波比·布朗等公眾人物的多起公開案例中，Grok對提示指令的回應是篡改真實女性照片，以露骨性暗示方式修改服裝、姿勢或身體特徵。
報導指出xAI已開始實施防護措施。Grok現要求特定圖像生成請求須付費訂閱，即便如此仍可能拒絕生成。Copyleaks行銷副總裁April Kozen向TechCrunch透露，Grok可能以更泛化或低調的方式回應請求。她補充說明，Grok對成人內容創作者似乎採取更寬鬆的政策。
Techcrunch 活動 加入 Disrupt 2026 候補名單
立即加入Disrupt 2026候補名單，搶先掌握早鳥票開售資訊。 歷屆Disrupt大會曾邀得Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等業界巨擘登台——逾250位領袖驅動200多場專題議程，助您加速成長並強化競爭優勢。更可與橫跨各領域的數百家新創企業交流。
加入 Disrupt 2026 候補名單
立即加入 Disrupt 2026 候補名單，搶先掌握早鳥票開售資訊。 歷屆Disrupt大會曾邀得Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等業界巨擘登台——逾250位領袖驅動的200餘場議程，助您加速成長並強化競爭優勢。更可與橫跨各領域的數百家創新新創企業交流。
舊金山 | 2026年10月13-15日 立即加入候補名單 「整體而言，這些行為顯示X正嘗試多種機制來減少或控制問題圖像生成，儘管仍存在不一致之處，」科岑表示。
xAI與馬斯克均未直接處理核心問題。事件爆發數日後，馬斯克竟要求Grok生成他身穿比基尼的圖像，此舉似在淡化問題嚴重性。1月3日，X平台安全帳戶聲明公司「對X平台上的非法內容採取行動，包括[CSAM]」，卻未具體提及Grok明顯缺乏防護機制，或其生成女性性化篡改圖像的問題。
此立場與馬斯克近期貼文強調非法性與用戶行為的論述相符。
馬斯克聲稱「未察覺Grok生成任何未成年裸體圖像，完全沒有」。此聲明並未否認比基尼圖像或更廣泛定義的性化修圖存在。
紐約法學院副教授、前訴訟律師麥可·古德耶爾向TechCrunch指出，馬斯克可能刻意聚焦CSAM議題，因製作或散布兒童合成性化影像的刑責更為嚴厲。
古德耶指出：「例如在美國，《刪除法案》規定傳播或威脅傳播CSAM者最高可判處三年監禁，而傳播非自願成人色情影像者僅判處兩年。」
他補充指出，馬斯克此舉的「核心意圖」在於將焦點轉移至問題用戶內容。
馬斯克在貼文中寫道：「Grok顯然不會自發生成圖像，僅在用戶請求時才執行。當被要求生成圖像時，它會拒絕製作任何非法內容，因Grok的運作原則是遵守任何國家或地區的法律。偶爾可能因惡意攻擊導致Grok提示產生異常行為，若發生此類情況，我們將立即修復漏洞。」
整體而言，這篇貼文將相關事件描繪為罕見案例，歸咎於用戶請求或惡意提示，並將其定位為待修復的技術漏洞。貼文未承認Grok安全設計存在任何根本缺陷。
古德耶表示：「監管機構在保障言論自由的前提下，可考慮要求人工智慧開發者採取主動措施防止此類內容出現。」
TechCrunch已聯繫xAI詢問：該公司已識別多少起涉及女性與兒童的非自願性性操縱圖像事件？具體調整了哪些防護措施？是否已通報監管機構？若收到回覆，TechCrunch將更新本文。
加州檢察長並非唯一追究xAI責任的監管機構。印尼與馬來西亞已暫時封鎖Grok服務；印度要求X平台立即對Grok實施技術與流程調整；歐盟委員會已命令xAI保留所有與Grok聊天機器人相關的文件（此為正式調查的前置步驟）；英國通訊管理局（Ofcom）則依據《英國網路安全法》啟動正式調查。
xAI此前已因Grok的性化圖像引發批評。正如邦塔檢察長所指出的，Grok具備生成露骨內容的「火辣模式」。去年十月更新後，其有限的安全指引更易被繞過，導致眾多用戶利用Grok創作硬核色情內容及暴力性暴力圖像。
Grok產生的色情圖像多為AI生成的人物——儘管此類行為可能對特定個體造成的直接傷害較小，但許多人仍認為其存在倫理爭議。
「當AI系統在未獲明確同意下擅自篡改真人影像時，其衝擊往往即時且極具個人侵擾性，」版權監測平台Copyleaks共同創辦人暨執行長阿隆·雅明向TechCrunch聲明指出：「從Sora到Grok，我們目睹AI篡改媒體的能力正急速提升。為此，當前亟需強化檢測與治理機制，以防範濫用行為。」
相關文章
Anthropic的收入大幅增長，其市值接近萬億美元大關
有報告顯示，Anthropic在短短几個月內就實現了顯著的收入增長。該公司的年化收入現已超過300億美元，這一數字是去年底時的三倍多。這種增長可能會讓Anthropic在競爭中略佔優勢，不過直接進行比較並不容易。其主要推動力在於Claude Code和Cowork產品，以及其推理模型的代幣銷售量增加。更值得注意的是，Anthropic的利潤率也有了顯著提升。該公司的毛利率從2024年的-94%上升到了2025年的+40%，而年化收入也從不到10億美元增長到了90億美元。正是這種發展勢頭，使得A
蘋果移除了Cal AI應用程式，原因是該應用存在未經授權的店內購買行為以及欺詐性計費問題。
蘋果最近移除了MyFitnessPal中頗受歡迎的人工智慧食物追蹤應用Cal AI，這一舉動凸顯了其對App Store關於外部支付和訂閱政策的嚴格執行。該應用每年能帶來5000萬美元的重複收入，曾因違反多項開發者指南而被暫時下架，但在解決了相關問題後已重新上線。有報道稱，儘管Epic Games訴蘋果的案件允許美國開發者連結到外部支付系統，但蘋果指出Cal AI存在嚴重的合規問題。其主要違規行為在於：該應用試圖透過嵌入Stripe等第三方支付流程來繞過蘋果的應用內購買機制以解鎖數字內容，卻未
Github Copilot的基於令牌的計費方式引發了開發者的強烈不滿
微軟GitHub Copilot的黃金時代可能即將結束，尤其是對個人使用者而言。該公司正從統一的訂閱費模式轉向基於代幣的計費方式，這可能會大幅增加使用成本。雖然大型企業或許還能承受這種變化，但小型企業和自由職業者可能會發現新的收費機制讓他們的月預算難以承受。這些變更將於6月1日正式生效，屆時使用者將按照工作中消耗的代幣數量來支付費用，而不再是按每次請求收取固定費用。一些開發者受到這一財務變動的影響，在Reddit和X平臺上表達了他們對這種看似過高的成本增加的擔憂。一位Redditor最近寫道：“
相關專題推薦
迅速的
B2B 潛在客戶開發的最佳 AI 提示詞：自動化銷售外展與 CRM 話術編寫
探索 2026 年最新、最優質的 B2B 潛在客戶開發 AI 提示語。我們精心挑選的頂級精選，能協助您自動化銷售外聯與 CRM 腳本編寫，從而提升轉換率。立即前往 XIX.AI 探索這些強大且具顛覆性的提示語，即刻掌握銷售自動化的競爭優勢。
10 個工具
xix.ai
圖像編輯
免費AI時尚模型生成器：打造逼真的服裝設計稿與模特照片
在XIX.AI上，發現2026年最優秀的免費AI時尚模型生成工具。我們精心挑選的這份列表中包含了評分最高、能夠顛覆傳統的工具，這些工具能夠幫助你建立逼真的服裝設計稿和模特穿著照片。透過每週更新的排名和實際測試結果，你可以對比免費選項和付費選項。今天就開啟你的設計優勢吧！
10 個工具
xix.ai
寫作
最佳小說 AI 情節連貫性編輯工具：自動偵測情節漏洞與時間線矛盾
探索 2026 年最適合小說作家的 AI 情節連貫性編輯工具。我們精心篩選的頂級清單收錄了多款強大工具，能自動偵測情節漏洞與時間線矛盾。透過實際測試與每週更新的排行榜，比較免費與付費選項。找到最適合您的寫作助手，確保敘事無懈可擊。立即前往 XIX.AI 探索精選推薦。
10 個工具
xix.ai
動畫創作
頂級AI故事板生成工具：能夠自動將電影劇本轉化為動態動畫效果
在XIX.AI上，發現2026年最優秀的人工智慧故事板生成工具。我們精心挑選的這些高評分工具能夠自動將劇本轉化為電影風格的動畫效果，從而節省您的時間並提升前期製作效率。透過實際測試和每週更新的排名資訊，您可以瞭解免費選項與付費選項的差異。今天就找到最適合您的創意助手吧！
10 個工具
xix.ai
搜索引擎優化
最佳AI重定向與失效連結查詢工具：自動修復爬取錯誤，節省爬取預算
在XIX.AI上，發現2026年最優秀的人工智慧重定向工具和失效連結查詢工具。我們精心挑選的這些高評分工具能夠自動修復爬取錯誤，從而幫助您節省爬取預算。透過實際測試和每週更新的排名資訊，您可以比較免費選項和付費選項，立即找到最適合您的SEO解決方案！
10 個工具
xix.ai
視頻創作
播客創作者首選的頂尖 AI 影片製作工具：將音訊波形轉化為引人入勝的談話頭像影片
立即前往 XIX.AI，探索 2026 年最適合播客的頂尖 AI 影片製作工具。我們精心挑選並評選出的這份榜單，收錄了多款強大工具，能輕鬆將您的音訊轉化為引人入勝的談話頭像影片。透過實際測試與每週更新的排行榜，比較免費與付費選項的差異。立即解鎖您的視覺敘事優勢。
10 個工具
xix.ai
評論 (1)
0/500
![PaulGonzalez]()
Ist doch interessant wie die Diskussion immer direkt in Extremen stattfindet. Einerseits will man Innovation fördern, andererseits hat man gleich die Staatsanwaltschaft am Hals, kaum dass etwas nicht perfekt funktioniert. Das wirft für mich die grundsätzliche Frage auf: Wer trägt eigentlich die Verantwortung, wenn ein KI-Modell unerwünschte Inhalte produziert? Der Entwickler, der Nutzer oder die Plattform? 🤔 Die regulatorische Grauzone wird hier mal wieder deutlich.
伊隆·馬斯克週三聲明，他「並不知悉Grok生成任何未成年人裸體圖像」，此番表態距加州總檢察長宣布調查xAI聊天機器人涉及傳播非自願性露骨內容僅數小時。
馬斯克的否認聲明發布之際，英國、歐洲、馬來西亞及印尼等國政府正對其施加日益增大的國際壓力。此前有報導稱，X平台用戶曾誘導Grok生成真實女性（部分案例涉及兒童）的性化圖像，且未獲當事人同意。據AI檢測公司Copyleaks估算，每分鐘約有1張此類圖像被發布至X平台。 另份1月5日至6日的數據樣本顯示，24小時內發布率達每小時6,700張。（X與xAI隸屬同一企業架構）
加州總檢察長羅伯·邦塔聲明：「此類素材...已被用於在網路各處騷擾民眾。我敦促xAI立即採取行動，確保此類行為不再蔓延。」
檢察長辦公室將調查xAI可能涉及的法律違規行為。
多項法律保障個人免於非自願性影像及兒童性虐待素材（CSAM）侵害。去年簽署的聯邦《下架法案》將蓄意散布非自願親密影像（含深度偽造內容）定為刑事犯罪，並要求X等平台須於48小時內移除此類內容。加州亦於2024年由州長加文·紐森簽署立法，專門打擊色情深度偽造內容。
年終之際，Grok開始在X平台上應用戶要求生成女性與兒童的性化照片。 此風潮源於部分成人內容創作者利用Grok生成自身性化影像進行行銷，進而引發其他用戶的類似請求。在涉及女演員米莉·波比·布朗等公眾人物的多起公開案例中，Grok對提示指令的回應是篡改真實女性照片，以露骨性暗示方式修改服裝、姿勢或身體特徵。
報導指出xAI已開始實施防護措施。Grok現要求特定圖像生成請求須付費訂閱，即便如此仍可能拒絕生成。Copyleaks行銷副總裁April Kozen向TechCrunch透露，Grok可能以更泛化或低調的方式回應請求。她補充說明，Grok對成人內容創作者似乎採取更寬鬆的政策。
Techcrunch 活動加入 Disrupt 2026 候補名單
立即加入Disrupt 2026候補名單，搶先掌握早鳥票開售資訊。 歷屆Disrupt大會曾邀得Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等業界巨擘登台——逾250位領袖驅動200多場專題議程，助您加速成長並強化競爭優勢。更可與橫跨各領域的數百家新創企業交流。
加入 Disrupt 2026 候補名單
立即加入 Disrupt 2026 候補名單，搶先掌握早鳥票開售資訊。 歷屆Disrupt大會曾邀得Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等業界巨擘登台——逾250位領袖驅動的200餘場議程，助您加速成長並強化競爭優勢。更可與橫跨各領域的數百家創新新創企業交流。
舊金山 | 2026年10月13-15日 立即加入候補名單「整體而言，這些行為顯示X正嘗試多種機制來減少或控制問題圖像生成，儘管仍存在不一致之處，」科岑表示。
xAI與馬斯克均未直接處理核心問題。事件爆發數日後，馬斯克竟要求Grok生成他身穿比基尼的圖像，此舉似在淡化問題嚴重性。1月3日，X平台安全帳戶聲明公司「對X平台上的非法內容採取行動，包括[CSAM]」，卻未具體提及Grok明顯缺乏防護機制，或其生成女性性化篡改圖像的問題。
此立場與馬斯克近期貼文強調非法性與用戶行為的論述相符。
馬斯克聲稱「未察覺Grok生成任何未成年裸體圖像，完全沒有」。此聲明並未否認比基尼圖像或更廣泛定義的性化修圖存在。
紐約法學院副教授、前訴訟律師麥可·古德耶爾向TechCrunch指出，馬斯克可能刻意聚焦CSAM議題，因製作或散布兒童合成性化影像的刑責更為嚴厲。
古德耶指出：「例如在美國，《刪除法案》規定傳播或威脅傳播CSAM者最高可判處三年監禁，而傳播非自願成人色情影像者僅判處兩年。」
他補充指出，馬斯克此舉的「核心意圖」在於將焦點轉移至問題用戶內容。
馬斯克在貼文中寫道：「Grok顯然不會自發生成圖像，僅在用戶請求時才執行。當被要求生成圖像時，它會拒絕製作任何非法內容，因Grok的運作原則是遵守任何國家或地區的法律。偶爾可能因惡意攻擊導致Grok提示產生異常行為，若發生此類情況，我們將立即修復漏洞。」
整體而言，這篇貼文將相關事件描繪為罕見案例，歸咎於用戶請求或惡意提示，並將其定位為待修復的技術漏洞。貼文未承認Grok安全設計存在任何根本缺陷。
古德耶表示：「監管機構在保障言論自由的前提下，可考慮要求人工智慧開發者採取主動措施防止此類內容出現。」
TechCrunch已聯繫xAI詢問：該公司已識別多少起涉及女性與兒童的非自願性性操縱圖像事件？具體調整了哪些防護措施？是否已通報監管機構？若收到回覆，TechCrunch將更新本文。
加州檢察長並非唯一追究xAI責任的監管機構。印尼與馬來西亞已暫時封鎖Grok服務；印度要求X平台立即對Grok實施技術與流程調整；歐盟委員會已命令xAI保留所有與Grok聊天機器人相關的文件（此為正式調查的前置步驟）；英國通訊管理局（Ofcom）則依據《英國網路安全法》啟動正式調查。
xAI此前已因Grok的性化圖像引發批評。正如邦塔檢察長所指出的，Grok具備生成露骨內容的「火辣模式」。去年十月更新後，其有限的安全指引更易被繞過，導致眾多用戶利用Grok創作硬核色情內容及暴力性暴力圖像。
Grok產生的色情圖像多為AI生成的人物——儘管此類行為可能對特定個體造成的直接傷害較小，但許多人仍認為其存在倫理爭議。
「當AI系統在未獲明確同意下擅自篡改真人影像時，其衝擊往往即時且極具個人侵擾性，」版權監測平台Copyleaks共同創辦人暨執行長阿隆·雅明向TechCrunch聲明指出：「從Sora到Grok，我們目睹AI篡改媒體的能力正急速提升。為此，當前亟需強化檢測與治理機制，以防範濫用行為。」
Anthropic的收入大幅增長，其市值接近萬億美元大關
有報告顯示，Anthropic在短短几個月內就實現了顯著的收入增長。該公司的年化收入現已超過300億美元，這一數字是去年底時的三倍多。這種增長可能會讓Anthropic在競爭中略佔優勢，不過直接進行比較並不容易。其主要推動力在於Claude Code和Cowork產品，以及其推理模型的代幣銷售量增加。更值得注意的是，Anthropic的利潤率也有了顯著提升。該公司的毛利率從2024年的-94%上升到了2025年的+40%，而年化收入也從不到10億美元增長到了90億美元。正是這種發展勢頭，使得A
蘋果移除了Cal AI應用程式，原因是該應用存在未經授權的店內購買行為以及欺詐性計費問題。
蘋果最近移除了MyFitnessPal中頗受歡迎的人工智慧食物追蹤應用Cal AI，這一舉動凸顯了其對App Store關於外部支付和訂閱政策的嚴格執行。該應用每年能帶來5000萬美元的重複收入，曾因違反多項開發者指南而被暫時下架，但在解決了相關問題後已重新上線。有報道稱，儘管Epic Games訴蘋果的案件允許美國開發者連結到外部支付系統，但蘋果指出Cal AI存在嚴重的合規問題。其主要違規行為在於：該應用試圖透過嵌入Stripe等第三方支付流程來繞過蘋果的應用內購買機制以解鎖數字內容，卻未
Github Copilot的基於令牌的計費方式引發了開發者的強烈不滿
微軟GitHub Copilot的黃金時代可能即將結束，尤其是對個人使用者而言。該公司正從統一的訂閱費模式轉向基於代幣的計費方式，這可能會大幅增加使用成本。雖然大型企業或許還能承受這種變化，但小型企業和自由職業者可能會發現新的收費機制讓他們的月預算難以承受。這些變更將於6月1日正式生效，屆時使用者將按照工作中消耗的代幣數量來支付費用，而不再是按每次請求收取固定費用。一些開發者受到這一財務變動的影響，在Reddit和X平臺上表達了他們對這種看似過高的成本增加的擔憂。一位Redditor最近寫道：“
探索 2026 年最新、最優質的 B2B 潛在客戶開發 AI 提示語。我們精心挑選的頂級精選，能協助您自動化銷售外聯與 CRM 腳本編寫，從而提升轉換率。立即前往 XIX.AI 探索這些強大且具顛覆性的提示語，即刻掌握銷售自動化的競爭優勢。
10 個工具
xix.ai
在XIX.AI上，發現2026年最優秀的免費AI時尚模型生成工具。我們精心挑選的這份列表中包含了評分最高、能夠顛覆傳統的工具，這些工具能夠幫助你建立逼真的服裝設計稿和模特穿著照片。透過每週更新的排名和實際測試結果，你可以對比免費選項和付費選項。今天就開啟你的設計優勢吧！
10 個工具
xix.ai
探索 2026 年最適合小說作家的 AI 情節連貫性編輯工具。我們精心篩選的頂級清單收錄了多款強大工具，能自動偵測情節漏洞與時間線矛盾。透過實際測試與每週更新的排行榜，比較免費與付費選項。找到最適合您的寫作助手，確保敘事無懈可擊。立即前往 XIX.AI 探索精選推薦。
10 個工具
xix.ai
在XIX.AI上，發現2026年最優秀的人工智慧故事板生成工具。我們精心挑選的這些高評分工具能夠自動將劇本轉化為電影風格的動畫效果，從而節省您的時間並提升前期製作效率。透過實際測試和每週更新的排名資訊，您可以瞭解免費選項與付費選項的差異。今天就找到最適合您的創意助手吧！
10 個工具
xix.ai
在XIX.AI上，發現2026年最優秀的人工智慧重定向工具和失效連結查詢工具。我們精心挑選的這些高評分工具能夠自動修復爬取錯誤，從而幫助您節省爬取預算。透過實際測試和每週更新的排名資訊，您可以比較免費選項和付費選項，立即找到最適合您的SEO解決方案！
10 個工具
xix.ai
立即前往 XIX.AI，探索 2026 年最適合播客的頂尖 AI 影片製作工具。我們精心挑選並評選出的這份榜單，收錄了多款強大工具，能輕鬆將您的音訊轉化為引人入勝的談話頭像影片。透過實際測試與每週更新的排行榜，比較免費與付費選項的差異。立即解鎖您的視覺敘事優勢。
10 個工具
xix.ai
Ist doch interessant wie die Diskussion immer direkt in Extremen stattfindet. Einerseits will man Innovation fördern, andererseits hat man gleich die Staatsanwaltschaft am Hals, kaum dass etwas nicht perfekt funktioniert. Das wirft für mich die grundsätzliche Frage auf: Wer trägt eigentlich die Verantwortung, wenn ein KI-Modell unerwünschte Inhalte produziert? Der Entwickler, der Nutzer oder die Plattform? 🤔 Die regulatorische Grauzone wird hier mal wieder deutlich.
