要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

开源力量崛起！傅盛力赞阿里云大模型：超越闭源指日可待

北京，2024年6月16日 - 近日，阿里云发布了其最新开源模型Qwen2-72B，该模型参数规模达到720亿，性能超过了美国最强的开源模型Llama3-70B，也超过了众多国内闭源大模型。这一消息在业界引起了广泛关注，也引发了对开源大模型与闭源大模型未来发展趋势的讨论。

对此，猎豹移动董事长兼CEO、猎户星空董事长傅盛发表了看法。他表示，阿里云发布的Qwen2-72B开源模型能力已经超越了国内绝大多数闭源模型，这表明了开源大模型的巨大潜力。

傅盛认为，开源大模型和闭源大模型各有优劣。闭源大模型拥有强大的资金和技术支持，能够快速迭代更新，但在数据和算法方面存在一定限制。而开源大模型则具有开放透明、易于协作的特点，能够汇聚来自全球各地的开发者和研究人员的力量，不断推动模型的进步。

从长远来看，傅盛认为开源大模型的能力将超越闭源大模型。主要原因在于开源并不是简单的做雷锋，而是结合自己的商业模式，结合能够形成社区的反馈能力的一套战略部署。 开源大模型的社区能够持续贡献新的代码和数据，并对模型进行改进，这将使模型的性能和能力得到不断提升。

此外，开源大模型还具有更强的通用性和可扩展性。 由于代码是公开的，任何人都可以对其进行修改和使用，这使得开源大模型能够更广泛地应用于各种场景。

当然，开源大模型也存在一些挑战。 首先，开源社区的管理和维护需要大量的精力和资源。其次，开源模型的质量和可靠性难以保证。

尽管存在挑战，但傅盛依然对开源大模型的未来发展充满信心。他呼吁更多的企业和开发者加入到开源大模型的社区中，共同推动开源大模型的发展和进步。

以下是傅盛对开源大模型未来发展的几点建议：

• 加强开源社区的建设，提高社区的管理水平和运营效率。
• 建立完善的代码质量和安全机制，确保开源模型的质量和可靠性。
• 探索开源商业模式，为开源大模型的可持续发展提供动力。

随着开源大模型的不断发展，其将对各行各业产生深远的影响。 在未来，开源大模型有望成为人工智能发展的重要引擎，推动人工智能技术取得更大的突破。