デロイトは、44万ドルの欠陥報告に対してオーストラリア政府に返金します。この状況は、重要な評価における人工知能の使用に関連する誤りの広がりを明らかにしています。失敗には、*明白な不正確さ*が含まれ、部分的には作成に使用された生成AIが非難されています。ある上院議員は、同社特有の「*人間の知能の問題*」を浮き彫りにし、コンサルティング業界の慣行に疑問を投げかけています。企業は、今やコンサルティングファームの*作業方法*を再考する必要があります。
デロイトがオーストラリア政府に返金する理由
デロイトは、44万ドルに対して発注された報告書における誤りを受けて、オーストラリア連邦政府に部分的に返金する意向を発表しました。この決定は、同社が文書作成プロセスに生成的人工知能を組み込んだことを認めた後に下されました。
雇用省の確認
雇用と労働関係省（DEWR）は、デロイトが契約の一環として最終的な資金の一部を返金することを確認しました。この取引の条件は、最終化次第公開される予定です。この発表は、労働党の上院議員による「コンサルティング会社内の「人間の知能の問題」」と評価された状況を巡る非難に続きました。
報告書の分析と発見
デロイトはコンプライアンスフレームワークおよび社会保障システム内のペナルティを自動化するためのITシステムを調査する責任を負っていました。7月4日に公開された最初の報告書は、広範な問題を浮き彫りにし、フレームワークのルールとそれを支える法律との間の「トレーサビリティ」の欠如を含んでいました。さらに、同社は参加者の不遵守に関する厳罰的な仮定を伴う「システムの欠陥」を指摘しました。
DEWRのサイトでは、金曜日に改訂版が再公開されました。この措置は、オーストラリアン・ファイナンシャル・レビューが8月に報じた、複数の誤りが存在することが明らかになったことに起因しています。シドニー大学のクリストファー・ラッジ博士は、この報告書には「幻覚」が含まれており、AIモデルがデータのギャップを埋めようとした結果であることを強調しました。
報告書の改訂と影響
更新された報告書において、デロイトは、「小規模な修正」に関する即時の変更が参照および脚注に適用されたことを述べました。しかし、DEWRは、文書内の勧告に対する変更は一切行われていないと明言しました。広報担当者は、報告書の本質的内容が維持され、勧告は変更されていないことを強調しました。
デロイトは、報告書の一部に生成的人工知能を利用したことをその付録で明記しました。この発表は、DEWRのライセンスを受け、同省のAzureインフラストラクチャーでホストされているAzure OpenAI GPT – 4oに基づくツールの利用を示唆しています。
反応と批判的考察
これらの改訂にもかかわらず、デロイトは、人工知能が報告書内のエラーの原因ではないと主張し続けました。同社は、分析の最初の結論を擁護し、修正が報告書の結果や勧告に影響を与えないことを明示しました。デロイトの広報担当者は、この問題は顧客との間で直接解決されたと述べました。
ラッジ博士は、報告書全体の信憑性に懐念を抱きつつ、その結論が他の広く裏づけられた証拠と一致していることを指摘しました。上院議員のデボラ・オニールは、この状況を「憂慮すべき」と評し、AIが真の人間の専門知識を置き換えたように見えることを示唆しました。さらに、彼女のコメントは、これらの企業を契約することを検討している人々は、AIに依存しないスキルの検証に関する質問をする必要があることを示唆しています。
オーストラリアン・ファイナンシャル・レビューによる調査は、報告書の原本にいくつかの不正確な参照が存在することを明らかにし、シドニー大学とスウェーデンのルンド大学の教授による幽霊のような研究を含むことが確認されました。また、返金に関する判決への虚偽の参照も発見され、使用されたソースの検証の欠如が明らかになりました。
このケースの含意は、質の高いコンテンツの生成におけるAIの増大する役割や、コンサルティング会社が提供するサービスにおける高い標準を保つ必要性について懸念を生じさせています。この分野における人工知能の台頭は、政府や市民に提供される報告書の整合性と正確性を維持する手段について深く考える必要があることを要求しています。
よくある質問
なぜデロイトはオーストラリア政府に一部の金額を返金するのですか？
デロイトは、雇用関係省のために作成した報告書内の一連の誤りのため、オーストラリア政府に44万ドルの一部を返金します。この報告書は生成的人工知能を使用して作成され、これが不正確さを引き起こしました。
デロイトの報告書においてどのような誤りが特定されましたか？
報告書には、コンプライアンスフレームワークのルールと法律との間のトレーサビリティの欠如、システムの欠陥、および正当なソースへの参照の欠如といった問題がありました。
人工知能の使用は報告書にどのように影響しましたか？
人工知能の使用は幻覚を引き起こし、AIがデータにおけるギャップを埋め、誤った解釈や報告書内での架空の参照の作成を引き起こしました。
雇用関係省は修正された報告書に関してどのような措置を取りましたか？
雇用関係省は、参照および脚注に対して軽微な修正が行われたことを確認しましたが、報告書に含まれる勧告に関しては変更はありませんでした。
デロイトは、AIが報告書のエラーの責任があると認めていますか？
デロイトは、報告書の元々の誤りを人工知能の使用に明示的に帰属させてはいませんが、修正版の報告書の付録でその使用についての言及を追加しました。
デロイトは、更新された報告書でどのような勧告を維持しましたか？
独立した分析の勧告はそのまま維持され、結論の整合性は影響を受けていないと、同省の声明は述べています。
デロイトのようなコンサルティング会社が作成した報告書にどのように対処すべきですか？
潜在的なクライアントは、報告書の結果と勧告が、AIシステムにのみ依存するのではなく、堅実な人間の専門知識に基づいていることを確認することが推奨されます。
デロイトの返金は、政府契約の将来にどのような影響を与える可能性がありますか？
この返金は、政府機関がコンサルティング会社への依存を再考し、これらの企業内での人間の専門知識の確認に努めるきっかけとなる可能性があります。
