2025-03-17 科技 0
IT之家 2 月 1 日消息，人工智能研究初创公司 OpenAI 本周二推出了一款新工具，该工具旨在区分文本是由人类还是计算机生成。OpenAI 是 ChatGPT 的开发者，这是一个能够根据提示生成类似于人类写作的文字的聊天机器人。自从上个月发布后，ChatGPT 就迅速走红，并引起了微软等科技巨头的关注。在上周，微软宣布对 OpenAI 进行数十亿美元的投资，并表示将把这家初创公司的人工智能模型融入其面向消费者和企业的产品中。
此前，在 ChatGPT 首次亮相后的几个月里，一些美国最大的学区，如纽约市，都已经禁止使用这种人工智能聊天机器人。这主要是因为教育机构担心学生可能会利用这些工具来作弊或剽窃。
OpenAI 的首席执行官 Sam Altman 表示，即使在计算器等技术出现后，教育界也经历了变化。他同时指出，该公司可能有办法帮助教师识别由人工智能编写的文本。
尽管如此，该公司最新推出的检测工具并不完美。据 OpenAI 称，它们正在不断优化这个分类系统，但目前它仍然存在错误。“在我们对英语文本‘挑战集’评估中的测试中，我们正确地将26%的人工智能生成的文本标记为‘可能是由人工智能编写’，而将10%的人类作品错误地标记为‘可能是由人工智能编写’”，OpenAI 员工作道。
该工具在分析包含少于1000个字符的小文章时表现不佳，而且 OpenAI 强烈建议不要用它来分析除英语以外的语言。此外，如果来自人的手动修改过，这些更新很容易使分类器无法正确判断它们不是人类作品。
OpenAI 表示，他们正在与教育界专家合作讨论 ChatGPT 的能力和局限性，并承诺继续致力于检测 AI 生成的文本。此外，他们还提醒说，由于这项工作非常具有挑战性，他们已经明确表示，从2019年开始，就认识到识别合成假冒言论并非易事。他们表示：“我们将持续进行这一工作，我们希望未来能分享改进方法。”
