艾尔莎，新任FDA人工智能，引发困惑与不信任。 旨在彻底改变联邦机构的运作，这一虚拟助理面临意想不到的挑战。艾尔莎的幻觉频繁，引发了对其在科研和科学评估方面的可信度的质疑。这个挑战引发了关于在公共卫生机构中越来越多使用人工智能的基本问题。在这一问题的核心，是技术创新与科学准确性之间的斗争，后者对公民的健康至关重要。快速改善的承诺似乎随着员工们所面临的现实而破灭。
FDA的一项雄心勃勃的计划
美国食品药品监督管理局（FDA）最近推出了艾尔莎，这是一款基于人工智能的助手，旨在现代化其运营。这个新工具旨在提高临床试验的效率，评估药物并优先进行检查。官方表示，艾尔莎代表着朝着将人工智能整合到公共卫生领域迈出的重要一步。FDA对这一创新表示热情，期望其能改善提供给美国公民的服务。
未兑现的承诺
尽管抱负高远，CNN的一项调查揭示出该工具面临重大挑战。FDA员工的证言表明，艾尔莎并不总是提供可靠的结果。通过与六名匿名员工的对话，这家媒体揭示了与人工智能产生准确信息能力相关的显著缺陷。员工们呼吁谨慎，强调该工具在某些时候看起来似乎更有害而非有用。
艾尔莎的幻觉
FDA员工报告称，艾尔莎的幻觉危害了信息的质量。该人工智能能够生成实际上并不存在的研究，造成了可信度的问题。一名员工发表了尖锐的批评：“你没有时间再检查的所有信息都不可靠。”这些话很好的说明了对尚不成熟的技术过度依赖的危险。
具体的故障案例
艾尔莎运行中的漏洞案例不胜枚举。在数据分析过程中，一名员工发现艾尔莎在特定标签产品的数量上出错了。人工智能对此表示歉意，却未能提供正确的答案。其他员工发现，她提供的关于儿童药物的问题回答是错误的。
改善的希望
尽管面临批评，某些负责人如杰里米·沃尔什（Jeremy Walsh）仍为艾尔莎的潜力辩护。他表示，该工具正在改进中，提出更精确的问题可能会减少幻觉的风险。这表明对艾尔莎在FDA运作中整合前景的谨慎乐观。
计划的背景
这一人工智能项目并不新鲜。它在拜登政府期间启动，但其部署在特朗普执政期间得以加速。在该政府下，FDA大约20%的人员裁减，也促使了快速发展所使用的技术。马蒂·马卡里（Marty Makary）在特朗普领导下被任命为FDA负责人，他对这一实施表示满意，称其“比预期更快并且在预算之内。”
走向负责任的监管
这个案例引发了关于在各个领域监管人工智能的更广泛问题。迫切需要一个适合这一技术的框架，正如英国与新加坡在金融部门为了监管人工智能而所做的承诺。同时，数据保护变得至关重要，并加强了围绕新兴人工智能的监管倡议。
不确定的人工智能未来
艾尔莎与其他类似项目一样，突显了确保有效利用人工智能技术所需克服的挑战。FDA在压力之下，必须在技术创新与公共安全要求之间找到平衡。艾尔莎的失败可能会影响与人工智能相关的政策决策，一些声音呼吁对其扩展实施临时禁令，这如值得认真考虑的风险。
一个不断发展的动态
在技术和研究领域的新进展持续吸引关注。像Arago这样的公司正在大量投资于能够与传统人工智能系统能力相抗衡的解决方案。技术领域快速演变，突显了创新与监管需求之间的紧张关系。
迈向新的视野
人工智能与其他领域的融合，例如水下摄影，为人工智能的潜力打开了意想不到的视角。这些项目，比如人工智能与摄影的结合，展示了这些技术如何重新定义科学研究与探索。
这一动态展示了技术进步的双重性：面对创新的兴奋，同时也牢记需要克服的挑战。从艾尔莎中获得的教训可能会塑造人工智能在多个领域的未来。
关于旨在现代化FDA的人工智能艾尔莎的常见问题
FDA的人工智能工具艾尔莎的主要目标是什么？
艾尔莎旨在加快临床试验，优先进行检查，并促进美国食品药品监督管理局（FDA）内的科学评估。
FDA员工与艾尔莎遇到哪些类型的问题？
员工报告称，该工具产生幻觉，生成不存在的研究，并在信息查询中提供错误的答案。
艾尔莎如何旨在现代化FDA？
艾尔莎被视为一项技术助理，旨在通过优化数据分析和科学信息管理来现代化员工的工作。
艾尔莎在哪些任务中难以高效完成？
艾尔莎在提供可靠的科学研究摘要和准确回答与药物及其标签相关的问题方面遇到了困难。
艾尔莎的幻觉对员工的工作有何影响？
是的，艾尔莎的幻觉使员工的工作变得复杂，因为他们必须不断检查和验证她提供的信息。
为什么员工认为艾尔莎并不完全有用？
员工认为，艾尔莎需要手动验证信息，这与工具应提供的效率相悖。
对艾尔莎的预期改进有哪些？
据FDA负责人杰里米·沃尔什说，正在进行努力以改进艾尔莎，通过提出更具体的问题来减少幻觉的风险。
艾尔莎是在拜登还是特朗普政府期间开发的？
尽管艾尔莎是在拜登政府期间计划的，但她的整合和启动在特朗普政府期间得到了显著加速。
杰里米·沃尔什对艾尔莎批评的回应是什么？
杰里米·沃尔 Walsh 对艾尔莎的能力持乐观态度，并表示该工具正处于改进阶段，以更好地满足员工的期望。
