Le 26 octobre 2023, OpenAIは新たに人工知能モデルを監視するためのユニットを設立することを発表しました。Preparednessと名付けられたこのチームは、人工知能の悪用によって引き起こされる可能性のある壊滅的なリスクを予測することを使命としています。OpenAIは、生成的な人工知能アプリケーションの安全性と堅牢性を管理することで、自社のツールの潜在的な逸脱を制限することを期待しています。
GPT-5の開発に関する噂：一般的な人工知能に向けて？
現在GPT-4モデルに注目が集まる中、TwitterのリークによればOpenAIは秘密裏にGPT-5を開発中であるとのことです。今年の12月に完成する予定のこの新しいモデルは、すべての認知タスクで人間の脳と競争できる一般的な人工知能 (AGI)を目指しているとのことです。この噂は、AIの今後の開発に関する倫理と課題についての議論を再燃させています。
AnthropicとGoogle：追い上げる競争者たち
並行して、アメリカのメガスタートアップAnthropicは、OpenAIとその生成技術ChatGPTに遅れを取らないよう努力を続けています。若い企業は最近、Googleからの支援により資金を倍増させることに成功しました。Googleはこのプロジェクトに20億ドルを投資することを約束しています。この取引は二段階で行われます：最初に5億ドルの即時投資、その後の数か月で15億ドルが転換社債という形で行われます。この動きは、Anthropicの競争力を強化し、OpenAIの優位性に対抗することを目指しています。
詐欺を検出する：ChatGPTによって生成されたテキストを認識するツール
OpenAIは、自社のモデルに関連する倫理的および技術的な課題に対処するために、特に教育分野においてChatGPTの使用に関連する潜在的な詐欺を検出するソリューションの開発も目指しています。実際、テキスト生成ツールによって生成された作品の検証は、AIがコンテンツの作成者であるかどうかを特定できない場合に非常に複雑になります。
この問題を解決するために、OpenAIはChatGPTによって書かれたテキストを見分けるための新しいツールを発表しました。これにより、詐欺やその他の悪用のリスクを制限し予測できるようになります。それでも、これらの取り組みは、人工知能技術の開発における倫理的および社会的な影響について事前に考える重要性を強調しています。
OpenAIの挑戦：技術革新と社会的責任の狭間で
OpenAIが開発するモデルが提供する技術的な成果を超えて、この進歩に伴う倫理的課題に注意を払う必要があります。人工知能に関する研究は、データ保護、アルゴリズムの偏見、意思決定の自律性、さらにはAIアプリケーションの監視と制御に関する重要な質問を生み出しています。
この観点から、Preparednessチームの設立や詐欺防止装置の開発などの取り組みは、技術的な発展とその実施をより効果的に管理することを可能にします。しかし、公共、民間、および市民社会の関係者間の協力を強化し、人工知能の未来の課題に対処するための国際的に調和のとれた規制枠組みを確立することが必要です。
