2025-03-17 科技 0
IT之家 2 月 1 日消息，人工智能研究初创公司 OpenAI 本周二推出了一款新工具，该工具旨在区分文本是由人类还是计算机生成。OpenAI 是 ChatGPT 的开发者，这是一个能够根据提示生成类似于人类写作的文字的聊天机器人。自从上个月发布后，ChatGPT 就迅速走红，并且微软宣布将对 OpenAI 进行数十亿美元的投资，并表示将整合该公司的人工智能模型到其面向消费者的产品中。
然而，在 ChatGPT 首次亮相之后，一些美国最大的学区，如纽约市教育局，都禁止了这种人工智能聊天机器人的使用。他们担心学生可能会利用这些工具进行作弊或剽窃。在这种背景下，OpenAI 的首席执行官 Sam Altman 表示，他认为教育机构已经经历过与计算器等技术相似的变革，但他也承认该公司可能会找到方法帮助教师识别这些被编写的人工智能文本。
值得注意的是，这款新工具并不完美，而且仍然处于研发和优化阶段。在评估一组英语文章时，OpenAI 员工发现分类器正确地将26%的人为生成的文本标记为“可能是人工智能写的”，而错误地将9%的人类撰写的文本误判为来自人工智能。这意味着这个工具在分析包含少于1000个字符的小篇章方面效果不佳，而且仅限于英语。此外，如果有人稍加修改来自人工智能的文本，就可以使分类器无法准确判断它不是由人类创作。
尽管如此，OpenAI 表示正在与教育界专家合作，以探讨ChatGPT 的能力及其限制，并承诺继续致力于检测 AI 生成的内容。而早在2019年，OpenAI 就已经明确指出识别合成语言是一项艰巨任务，他们表示：“我们在检测 AI 合成语言方面工作仍需持续进行，我们希望未来能分享改进后的方法。”
