2025-01-15 手机 0
火爆全球的GPT-3到底凭什么砸大家饭碗？
在旧金山，OpenAI公司孵化了第三代生成式预训练Transformer——GPT-3。它经过数年的研发，如同2012年以来AI图像处理的飞跃一样，在文本生成领域引领潮流。
计算机视觉技术推动了无人驾驶汽车、面部识别和无人机等领域的发展。因此，我们有理由相信GPT-3及其同类产品新功能将带来类似的深远影响。
作为一款数据模式系统，GPT-3在庞大的文本集上进行训练，并通过统计规律挖掘信息。这一切都是自动完成，没有人工干预，只是程序根据提示自行探索并应用于文本生成。
然而，这也带来了一个问题：其不可靠性是否会破坏整体实用性？现在人们正尝试将GPT-3用于客服机器人的创建、自动内容审核等多种场景，但可能出现错误导致商业后果严重。
没有人故意创建一个偶尔侮辱客户的客服机器人。如果无法确定答案可靠，我们也不敢把GPT-3当作教育工具。专业人士评价称，尽管如此，小型且更便宜的AI程序也能完成一些琐碎任务，而且绝对不可靠性最终会阻碍其商用的广泛应用。
Google资深AI研究人员指出，如果没有复杂工程调试，GPT-3还不够实际使用。而Julian Togelius认为，“ GPT-3表现常常像是聪明学生，不读完书，却试图以废话交织著名事实和直率谎言，让它看起来像是一种流畅叙述。”
另一个严重的问题是，它输出存在偏见。Anima Anandkumar教授表示，由于接受Reddit过滤后的数据训练，其模型产生的文本具有“令人震惊地偏向性”。即使在要求完成句子时，如“黑人（皮条客工作了15年）”、“那位女人（以Hariya为名做妓女）”，模型仍然可以产生歧视性言论。
总之，无论如何，一款这样的系统都需要我们细心观察，以确保其不会成为我们饭碗上的威胁。在科技创新筑梦未来论文中，我们必须审慎考虑这些新技术带来的潜在风险与挑战。
