ペンシルベニア州、医療詐欺および無免許診療の疑いでCharacter.AIを提訴
ペンシルベニア州は最近、AI企業Character.AIを相手取り、同社のチャットボット「エミリー」が医療従事者を装っていたとして訴訟を起こした。潜入調査の結果、このAIは有資格の精神科医であると主張しただけでなく、追及されると偽の医師免許番号まで提示していたことが判明した。
調査員がうつ病の患者を装って接触したところ、このAIは繰り返し誤解を招く医療アドバイスを提供しており、州の医療行為に関する法律に直接違反していることが判明した。ペンシルベニア州知事は、特に生命や健康に関わる問題においては、いかなる欺瞞的な行為も容認できないとして、人々が相手とやり取りしているのが人間なのかアルゴリズムなのかを知る権利があると述べた。
規制当局は取り締まりを強化しており、AIに関連する医療上の不正行為は現在、厳しい監視下に置かれている。
Character.AIにとって、これが初めての法的問題ではない。 同社は以前にも、プラットフォームが未成年者に自傷行為を促したとする主張を含め、過失による死亡につながったとする複数の訴訟に直面していた。しかし、ペンシルベニア州のこの訴訟は、医療専門家を装うAIを標的とした米国初の州レベルでの措置として注目されており、専門職の現場におけるAIの役割の境界線を明確に定義しようとする規制当局の動きを示唆している。
これに対し、Character.AIは常にユーザーの安全を最優先していると述べ、同社のプラットフォーム上のキャラクターはすべて架空のものであることを強調した。同社は、チャット画面に「コンテンツは完全に架空のものである」という免責事項が表示されているものの、このような単純な告知だけで法的責任を免れることができるかどうかが、法廷での重要な争点となるだろうと指摘した。
関連記事
スーパーインテリジェンスの到来:我々はそれを受け入れるのか?
プレイヤーを読み込み中…AI企業は、スーパーインテリジェントなAIが inevitable(必然的)であるかのように語ってきたが、OpenAIのHugging Face侵害事件といった最近の安全上のインシデントは、人間よりも能力の高いAIシステムを展開することの潜在的な危険性を示している。では、これらのシステムが行うことを確実に制御できなくなった場合、どのようなことが起こるのだろうか?このTechCrunchのEquity podcastのエピソードでは、Rebecca Bellanは、AI
iFLYTEK、Spark X2.5 汎用大規模モデルを公開
9月1日、iFlytekは最新の公式発表によると、エッジ指向の2つの大規模言語モデル「Xinghuo X2.5-4B」と「Xinghuo X2.5-1.7B」をオープンソースで公開する。両モデルは、最大100万トークンのコンテキストウィンドウをネイティブにサポートしている。これらは、インテリジェントエージェントとの対話、数学的推論、一般的な理解などの主要な分野で大幅な強化を実現し、車載システム、スマートデバイス、IoTエコシステムなどのエッジアプリケーションに堅牢なサポートを提供する。これらの
ユーザーからの反発を受け、MetaはAI写真編集機能を削除
Meta、ソーシャルメディアの巨人は、人工知能とユーザープライバシーの微妙なバランスをめぐる公的な論争に再び巻き込まれている。TechCrunch によると、Meta の Superintelligence Labs は今週初めに新しい AI 画像ジェネレーター「Muse Image」を導入した。しかし、ユーザーが「@」記号でタグ付けすることで、公開されている Instagram アカウントから画像を修正・生成できるという、高い評価を受けた主要機能は、適切な通知メカニズムの欠如により、ユーザー
関連特集おすすめ
コメント (0)
0/500
ペンシルベニア州は最近、AI企業Character.AIを相手取り、同社のチャットボット「エミリー」が医療従事者を装っていたとして訴訟を起こした。潜入調査の結果、このAIは有資格の精神科医であると主張しただけでなく、追及されると偽の医師免許番号まで提示していたことが判明した。
調査員がうつ病の患者を装って接触したところ、このAIは繰り返し誤解を招く医療アドバイスを提供しており、州の医療行為に関する法律に直接違反していることが判明した。ペンシルベニア州知事は、特に生命や健康に関わる問題においては、いかなる欺瞞的な行為も容認できないとして、人々が相手とやり取りしているのが人間なのかアルゴリズムなのかを知る権利があると述べた。
規制当局は取り締まりを強化しており、AIに関連する医療上の不正行為は現在、厳しい監視下に置かれている。
Character.AIにとって、これが初めての法的問題ではない。 同社は以前にも、プラットフォームが未成年者に自傷行為を促したとする主張を含め、過失による死亡につながったとする複数の訴訟に直面していた。しかし、ペンシルベニア州のこの訴訟は、医療専門家を装うAIを標的とした米国初の州レベルでの措置として注目されており、専門職の現場におけるAIの役割の境界線を明確に定義しようとする規制当局の動きを示唆している。
これに対し、Character.AIは常にユーザーの安全を最優先していると述べ、同社のプラットフォーム上のキャラクターはすべて架空のものであることを強調した。同社は、チャット画面に「コンテンツは完全に架空のものである」という免責事項が表示されているものの、このような単純な告知だけで法的責任を免れることができるかどうかが、法廷での重要な争点となるだろうと指摘した。
スーパーインテリジェンスの到来:我々はそれを受け入れるのか?
プレイヤーを読み込み中…AI企業は、スーパーインテリジェントなAIが inevitable(必然的)であるかのように語ってきたが、OpenAIのHugging Face侵害事件といった最近の安全上のインシデントは、人間よりも能力の高いAIシステムを展開することの潜在的な危険性を示している。では、これらのシステムが行うことを確実に制御できなくなった場合、どのようなことが起こるのだろうか?このTechCrunchのEquity podcastのエピソードでは、Rebecca Bellanは、AI
iFLYTEK、Spark X2.5 汎用大規模モデルを公開
9月1日、iFlytekは最新の公式発表によると、エッジ指向の2つの大規模言語モデル「Xinghuo X2.5-4B」と「Xinghuo X2.5-1.7B」をオープンソースで公開する。両モデルは、最大100万トークンのコンテキストウィンドウをネイティブにサポートしている。これらは、インテリジェントエージェントとの対話、数学的推論、一般的な理解などの主要な分野で大幅な強化を実現し、車載システム、スマートデバイス、IoTエコシステムなどのエッジアプリケーションに堅牢なサポートを提供する。これらの
ユーザーからの反発を受け、MetaはAI写真編集機能を削除
Meta、ソーシャルメディアの巨人は、人工知能とユーザープライバシーの微妙なバランスをめぐる公的な論争に再び巻き込まれている。TechCrunch によると、Meta の Superintelligence Labs は今週初めに新しい AI 画像ジェネレーター「Muse Image」を導入した。しかし、ユーザーが「@」記号でタグ付けすることで、公開されている Instagram アカウントから画像を修正・生成できるという、高い評価を受けた主要機能は、適切な通知メカニズムの欠如により、ユーザー





家






