2025-01-28 智能 0
中国科技馆官网：OpenAI CEO首次在中国的演讲，智慧之星点亮夜空（视频+全文）
6月10日，OpenAI创始人Sam Altman以视频连线方式出现在北京举办的2023智源人工智能大会上，这是Altman对中国观众的首次演讲。在这场历史性的交流中，Altman引用了《道德经》，强调大国合作对于确保人工智能(AI)安全至关重要。
随后，Altman接受了智源研究院理事长张宏江的一系列深入问题。张宏江博士是一位多面手，他曾担任过微软亚洲研究院的创始人、副院长以及微软亚太研发集团首席技术官等职务。此外，他还曾在新加坡国立大学系统科学研究院工作。
Altman在演讲中指出，由于AI技术影响力巨大且发展速度快，它带来的红利和风险同样显著。他提出了一个明确的警示：全球各国必须合作，以防止某些旨在改善公共健康或农业生产的人工智能系统因缺乏对长期可持续性考虑而导致错误建议，从而扰乱医疗体系或破坏生态平衡。
关于GPT-4模型对齐问题，Altman透露该模型花费八个月时间来解决这一挑战，但相关领域仍有待进一步升级。关键的是扩展性和可解释性两个方面需要得到更多关注。
问答环节中，张宏江询问了AGI（通用人工智能）何时到来，以及是否会很快出现GPT-5模型。Sam Altman表示虽然未知，但他预计未来十年内我们将拥有非常强大的AI系统，并认为推进AGI安全是一个国际社会共同努力所需解决的问题。
关于架构设计的问题，张宏江提出了一个可能性，即改变AGI模型基础架构以使其更安全和易于检查。Sam Altman同意这种方法是可能实现的，并且他们已经通过改变多种架构取得了一定的进展。他还提到了机器人的潜力并表达了希望将来重新探索这个领域的心情。
最后，在谈及控制模型数量的问题时，Sam Altman提出，我们应该建立一个框架，让任何一方创建足够强大的模型都要经过充分的安全测试。这与药物开发中的许可和测试流程相似，是值得借鉴的一种方法。但他也指出，我们已经有了一些可以有效执行这些方法的手段。
本次线上会议不仅展示了两位专家的专业知识，也传递了一份关于未来人类与AI共处时代可能面临挑战与机遇的心灵共鸣。在此之后，不少听众留下了感谢的话语，他们期待着即将到来的那个时代，每个人都能成为驾驭科技潮流的小船主，而不是被动地跟随潮水前行。
