人工智能的迅猛发展引发了关于 生成内容的检测 的前所未有的问题。重点在于需要明确区分人类写作与自动化生成的作品。人工智能内容系统带来了学术和政治领域前所未有的去监管化。
一个新的工具， Liketropy，承诺在这种情况下提供创新而准确的回应。 *它的架构结合了两个统计概念*：似然性和熵。 *通过统计测试*，此工具仔细分析文本以评估其来源。
它不仅仅是揭露，还以 严谨 的方式行动以尽量减少错误指控的风险。这个开发代表了在承认人工智能与尊重创作者之间实现平衡的一步。
Liketropy工具的发展
密歇根大学的一组研究人员设计了一个新的工具，名为 Liketropy，用于评估文本的来源，无论是由 人工智能 生成的还是由人类撰写的。该系统利用统计概念，如 概率 和 熵，从而允许深入分析而无需先前对特定样本进行训练。
探测器的工作原理
Liketropy使用零-shot统计测试，能够判断文本是由高级 语言模型 生成还是由人类产生，而无需特定的训练数据。该工具主要关注大型语言模型 (LLMs)，评估文本中如惊讶 或 可预测性 等内在的统计特性。
精确度和性能
在对大规模数据集进行测试时，即使这些模型对公众不可访问，结果也显示出良好的前景。该工具在专为若干LLMs设计的测试中取得了超过 96% 的平均准确率，同时将错误指控率保持在低至 1%。
伦理与可及性
研究人员特别关注公平性，尤其是针对 国际学生 和 非母语英语者。最新研究表明，这些学生可能因为句子结构或语气而受到不公正的惩罚。这在学术环境中造成了不利影响。因此，Liketropy可以成为一个可访问的自我评估工具，使这些学生在提交之前检查其写作质量。
未来的应用
研究的共同作者Tara Radvand提到，开发该工具的意图是使其成为适用于各个领域的可调整解决方案，尤其是在法律和科学领域。个性化的方法可以应用于大学录取，考虑到各个领域的显著特性。
减少虚假信息
人工智能检测器的重要应用在于抵制社交媒体上的 虚假信息。某些人工智能模型故意引发极端行为，从而助长了错误观念的传播。研究人员强调开发可靠的检测工具的重要性，以便标识这些有害内容。
与大学的合作
这项研究同样引起了密歇根大学学术界和商业部门领导者的兴趣，他们考虑将该工具纳入现有系统，如U-M GPT和AI助手Maizey。这将使得验证文本是否来自这些平台或外部模型（如ChatGPT）成为可能。
认可与发布
Liketropy在密歇根大学跨学科统计科学研究生研讨会中获得最佳演示奖，这是一个专为研究生举办的年度活动。此外，它还被巴黎机器学习和数据科学女性组织提到，突显了人们对生成内容检测日益增长的兴趣。
相关研究已在预印本服务器arXiv上发布，表明其在人工智能检测领域的重大贡献。
相关链接
要深入了解网络安全和人工智能主题，请参考以下文章： 人工智能代码建议的影响， 预防生成性人工智能的风险， Sanqtum的发布，网络安全和人工智能的解决方案， 团队培训以检测误导性科学报告， 通过人工智能增强网络安全措施。
常见问题解答
该人工智能检测工具的主要目标是什么？
该工具的主要目标是检测文本是否由人工智能生成，同时尽量减少对人类写作的错误指控风险。
该工具如何检测生成的文本？
该工具使用统计测试，基于诸如惊讶或可预测性等特性来评估文本是更人在性还是机器生成的。
该工具中“零-shot统计测试”一词在什么背景下使用？
该术语指的是可以在不需要先前对每种作者类型样本进行训练的情况下确定文本来源的测试。
该工具在检测LLMs生成的文本时的准确性如何？
在大规模数据集测试中，该工具的平均准确率超过96%，而错误指控率低至1%。
该工具能否识别由不同人工智能模型生成的文本？
是的，虽然该工具是针对特定模型设计的，但即使在没有先前接触这些模型的情况下，它也显示出有效的检测能力。
谁可以受益于这款人工智能检测工具？
学生，特别是那些将英语作为第二语言的学生，可以利用该工具在提交之前自我检查其写作。
该工具的潜在应用领域是什么？
除了教育，该工具还可以在法律、科学等领域派上用场，甚至用于验证大学入学申请的真实性。
该工具如何帮助打击社交媒体上的虚假信息？
通过促进识别人工智能生成内容的早期过程，该工具帮助限制错误信息的传播，并保护公共讨论的诚信。
该工具是否向公众开放？
研究人员计划与诸如密歇根大学等机构合作，以调整和集成该工具到各种应用中，但其公众可及性可能会有所变化。
