要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

苹果与OpenAI合作引争议：马斯克怒斥“出卖用户数据”，业界看法不一

北京，2024年6月14日 - 6月11日，苹果在WWDC 24开发者大会上宣布与OpenAI达成合作，将把OpenAI旗下的大型语言模型ChatGPT整合进Siri语音助手。这一消息引发了业界的广泛关注，也引来了特斯拉CEO马斯克的强烈反对。

马斯克怒斥“出卖用户数据”

马斯克在推特上发文表示，他“非常反对苹果与OpenAI合作”，并称此举是“出卖用户数据”。他认为，OpenAI的模型是在大量用户数据的基础上训练出来的，而苹果将这些模型整合进Siri，意味着用户数据将被进一步收集和利用，这可能会带来隐私安全方面的风险。

业界看法不一

对于马斯克的指责，业界看法不一。一些人认为，马斯克的担忧并非空穴来风，苹果与OpenAI的合作确实存在一定的隐私安全风险。此外，他们还担心，苹果可能会利用其强大的市场地位，压制其他人工智能公司的发展。

不过，也有人认为，马斯克的反应有些过度。他们指出，苹果一直以来都非常重视用户隐私，并采取了严格的措施来保护用户数据。此外，他们还认为，苹果与OpenAI的合作有利于人工智能技术的推广和应用，总体而言是一件好事。

苹果回应：用户数据安全得到保障

针对马斯克的指责，苹果方面回应称，用户数据安全始终是其首要考虑的问题。在与OpenAI的合作中，苹果将严格遵守相关隐私政策，不会收集或使用任何用户数据。

未来展望

苹果与OpenAI的合作究竟会带来怎样的影响，还有待进一步观察。可以肯定的是，人工智能技术的快速发展，将对社会各个方面产生深远的影响。如何平衡技术发展与伦理道德，将是未来我们需要共同面对的课题。

以下是一些关于苹果与OpenAI合作的额外信息：

• 苹果将把ChatGPT整合进Siri语音助手的哪些功能，目前尚未公布。
• 一些分析人士认为，苹果与OpenAI的合作可能会加速苹果进军元宇宙的步伐。
• 也有分析人士认为，苹果此举是为了对抗谷歌在人工智能领域的领先地位。

请注意：

• 本文仅供参考，不构成任何投资建议。
• 本文中的信息可能存在误差或遗漏，恕不承担任何责任。