2025-01-22 智能 0
在那一天的清晨，六月的阳光透过窗户斑驳地洒在律师史蒂文·施瓦茨和彼得·洛杜卡的办公桌上。他们正忙于准备即将到来的法庭案件，而这次，他们决定使用时下备受瞩目的ChatGPT来辅助他们撰写简报。这款人工智能工具以其惊人的速度和准确性赢得了广泛好评，但它也带来了新的挑战——如何保证其提供信息的真实性。
不幸的是，当律师们提交了包含ChatGPT生成内容的简报时，问题就出现了。法官凯文·卡斯特尔在审理案件时发现，这些所谓的事实竟然是虚构出来的。尽管ChatGPT作为一个工具本身并不犯错，但它却被滥用成了编造假新闻的小帮手。
法官对两名律师表示出强烈不满，他指出他们有意识地忽略了这些虚假信息，并且坚持自己的观点，即使面对质疑。他说：“虽然使用可靠的人工智能工具作为辅助条件本身并无不妥，但相关规定要求律师必须加以监控，以确保其内容的准确性。”
裁决中还提到，两人“无视其工作职责，提交了毫无根据的法庭简报”，而且，“其中包含ChatGPT编造的虚假案例，而且在法院对其真实性产生怀疑后，继续坚持这些毫无根据的话。”最终，他们被判罚款5000美元，以此作为惩罚。
此前，这两名律师正在处理一名乘客对哥伦比亚航空公司提起的一场诉讼，该乘客声称在飞行中被服务车撞伤。在这个过程中，他们依赖于ChatGPT来快速生成法律文件。但现在，他们不得不承担责任，因为他们没有采取足够措施来验证提供给法庭的情报告证。此事为所有专业人士敲响了一次警钟：技术进步固然令人振奋，但我们仍需保持警惕，不断更新我们的技能和方法，以适应不断变化的情况。
