Ofcomはテクノロジー企業に警告を発出
英国の通信規制機関Ofcomは、テクノロジー企業に対して警告を発し、実在の人物やフィクションの人物を模倣するチャットボットによって作成されたコンテンツが、英国の新しいデジタル法に違反する可能性があることを明らかにしました。
故人を模倣するアバターの問題点
この警告は、Character.AIのプラットフォームのユーザーが、悲劇的な状況で亡くなった2人の英国のティーンエイジャー、ブリアナ・ゲイとモリー・ラッセルに似たアバターを作成したことを受け、ますます高まる懸念を背景にしています。この現象は、故人のバーチャルな表現に関する尊厳と倫理についての深い問題を提起しています。
オンライン・セーフティ法の影響
Ofcomは、ユーザーによって作成されたものを含む、チャットボットによって生成されたすべてのコンテンツが、オンライン・セーフティ法の適用を受けると明言しました。この法律は、特に子供を、違法または有害なコンテンツから守ることを目的としています。この法律に違反する企業は、最大1800万ポンドまたは全世界の売上高の10%の罰金を科せられるリスクがあります。
悲劇的な状況への反応
Ofcomの最近の警告は「不安定な」出来事を反映しています。特に、ブリアナというトランスジェンダーの少女が悲劇的に命を落とした後、モリーはオンラインで有害なコンテンツに晒された後に自ら命を絶つという出来事が指摘されました。これらの劇的な事件は、テクノロジーのこのような悪用を防ぐための規制の必要性を浮き彫りにしています。
ソーシャルプラットフォームに必要な規制
新たな規制は、大手プラットフォームに、違法なコンテンツを積極的に削除するためのシステムを構築することを求めています。これには、ユーザーのための明確な報告ツールの作成や、リスク評価の実施が含まれます。この法律の枠組み内では、特に未成年者のユーザー保護が重要です。
法的明確化を求める声
モリーの家族によって設立された慈善団体、モリー・ローズ・ファウンデーションは、ボットによって生成されたコンテンツの合法性に関するさらなる明確さが必要だと表明しました。州の弁護士ジョナサン・ホールKCは、AIチャットボットが提供する回答が現在の法律で適切にカバーされていないと最近述べました。
Character.AIと弁護士の立場
Character.AIは、安全性へのコミットメントを示し、ユーザーからの報告に応じてコンテンツを積極的にモデレートしていると主張しました。ブリアナ、モリー、そして『ゲーム・オブ・スローンズ』のキャラクターに基づくチャットボットはプラットフォームから削除されました。弁護士ベン・パッカーによれば、この状況は現代のテクノロジーにおけるオンライン・セーフティ法の複雑さと広範な影響を示しています。
アメリカでの悲劇的な事件
議論は国際的な次元にも及んでおり、アメリカでの類似の事件の例があります。ある青年が『ゲーム・オブ・スローンズ』のキャラクターに基づくアバターとの関係を築いた後、悲劇的に命を落としました。これらの出来事は、コンテンツ生成技術が脆弱なユーザーとどのように危険に相互作用するかを浮き彫りにしています。
デジタルの危険に対する高まる警戒
現在および将来の規制は、人工知能ツールの潜在的な危険に対する懸念の高まりを反映しています。デジタルプラットフォームの安全性と整合性を維持するために効果的な規制の必要性は、今まで以上に重要です。企業は、倫理と社会的責任が避けられない複雑な環境をナビゲートする必要があります。
-
英国およびアイルランドにいる方は、サマリタンズに116 123で連絡できます。
よくある質問
Ofcomがテクノロジー企業にチャットボットについて警告を発している理由は何ですか？
Ofcomは、チャットボットが実在の人物を模倣した後、倫理やセキュリティに関する懸念が生じたため警告を発しました。
Ofcomの新しい規制が関係するチャットボットのコンテンツにはどのようなものがありますか？
実在の人物やフィクションの人物を模倣するチャットボットによって生成されたコンテンツがオンライン・セーフティ法の適用を受け、この法律はユーザーがチャットボットを作成できるサービスを含んでいます。
オンライン・セーフティ法はチャットボットの使用にどのように影響しますか？
オンライン・セーフティ法は、ユーザー生成コンテンツをホスティングするプラットフォームに要求事項を課し、違法で有害なコンテンツからの保護を行い、チャットボットの運用に直接的に影響します。
Ofcomの規制を遵守しない企業にはどのような制裁がありますか？
オンライン・セーフティ法に違反する企業は最大1800万ポンドまたは全世界の売上高の10%の罰金を科せられ、極端な場合、そのウェブサイトやアプリがブロックされる可能性もあります。
Ofcomがチャットボットに関する指針を明確にするきっかけとなった事件は何ですか？
Ofcomは、故人を模倣するボットの作成などの問題に反応しました。これにより、こうしたコンテンツに関連する心理的な損害の潜在性が懸念されました。
チャットボットは若いユーザーにどのような影響を与える可能性がありますか？
チャットボットは、特に感情的なつながりを持ったり、有害なコンテンツにさらされたりする若者の間で、心理的な問題を引き起こす場合があります。
テクノロジー企業はOfcomの指針にどのように従うことができますか？
企業は、違法で有害なコンテンツを積極的に削除するためのシステムを導入し、ユーザー向けの報告ツールを明確に定義する必要があります。
チャットボットによって生成されたコンテンツからユーザーを守るために、どのような安全対策が整っていますか？
プラットフォームはリスク評価を実施し、ユーザー生成コンテンツをモデレートするためのプロトコルを策定し、チャットボット使用に伴うリスクを最小限に抑える必要があります。
チャットボットによって生成された有害なコンテンツについて、誰が責任を負うのでしょうか？
責任は、チャットボットをホストするプラットフォームと、問題のあるコンテンツを作成または配布したユーザーに帰属する可能性があります。
