2025-01-28 数码 0
北京日报客户端记者：在2023年举办的北京智源大会上，OpenAI的首席执行官Sam Altman发表了一个关于人工智能安全与对齐的问题讨论。他提出了一个问题：随着人工智能系统变得越来越强大，它们将如何影响我们的世界？Altman认为，为了确保这些技术被用于正面的目的，我们需要采取一些措施。
Altman指出，如果我们不小心地开发和部署人工智能系统，这些系统可能会导致意想不到的后果。例如，一种旨在改善公共卫生结果的人工智能系统可能会无意中提供错误或没有根据的建议，从而破坏整个医疗保健体系。同样，一种为优化农业实践设计的人工智能系统可能会无意中耗尽自然资源或破坏生态系统，从而损害粮食生产和环境平衡。
为了避免这些风险，Altman呼吁国际合作建立起一套规范和标准，以确保所有国家都能平等地利用这项技术。他还提议要增加透明度，并促进知识共享，同时研究人员应该站在更大利益层面思考，并分享他们发现的问题。此外，他认为应该投资于AGI安全研究，并通过监督来保证这一点。
最后，Altman相信人类能够利用AGI解决世界上最重要的问题并显著提高生活质量，但这需要我们共同努力。在他看来，我们已经迈出了建设性的第一步，即与国际科学和技术界合作。这是一个开始，而不是结束，因为“千里之行始于足下”。
