划重点：
未来3到5年内，我们有望迎来一种全新的人工智能架构或范式，引发一场人工智能领域的革命。
目前用于大型语言模型的技术并不适用于视频生成，Meta正在探索新技术。
人工智能的发展不仅是技术问题，更是社会价值观的体现。如何在技术进步与社会责任之间找到平衡，将是未来需要持续关注的课题。
1月21日消息，在2025年世界经济论坛年会期间，全球人工智能领域的领军人物、Meta首席科学家杨立昆（Yann Lecun）以发言嘉宾身份出席了分论坛《技术辩论》（Debating Technology）。该论坛围绕如何负责任地利用人香港资料大全工智能技术展开辩论，探讨如何在最大限度发挥其益处的同时，将潜在风险降至最低。
杨立昆表示，Meta目前正努力提升人工智能系统的稳定性和可靠性，使其能够更广泛地应用于各个领域，但目前的人工智能系统仍存在明显的局限性。在未来3到5年内，我们有望迎来一种全新的人工智能架构或范式。这种新架构可能会突破当前人工智能系统的限制。目前，人工智能系统在四个方面表现不佳：一是理解物理世界；二是具备持久记忆；三是能够进行推理；四是能够进行复杂规划。尽管目前有一些尝试，通过添加功能让人工智能系统在这些方面有所表现，但最终需要以一种全新的方式来实现这些功能。这可能会在未来几年引发一场人工智能领域的革命。
杨立昆还表示，目前用于大型语言模型的技术并不适用于视频生成。Meta正在探索新的技术，但这可能需要几年时间才能取得成果。一旦取得突破，它将为人工智能应用开辟一个全新的领域，因为我们将会拥有能够推理和规划的系统。这些系统能够预测自身行为的后果，并规划一系列行动以实现特定目标。这可能会为真正的智能体系统或机器人技术打开大门。未来十年可能成为机器人的时代。
人工智能的正确应用与开源的重要性
杨立昆认为，确保人工智能正确应用的关键在于为人们提供构建多样化人工智能系统的工具，这些系统能够理解世界上所有的语言和文化。而这一切只能通过开源平台实现。他坚信，开源基础模型将在人工智能行业和生态系统中占据主导地位，超越专有系统。它们将成为整个行业的基础，并已经在一定程度上实现了这一点。它们将促进人工智能系统的多样化发展。
杨立昆预测，未来所有人都会佩戴智能眼镜，通过它们与人工智能助手交流并提问。我们的生活中会有越来越多带有显示屏的设备，我们的数字生活将由人工智能助手来管理。我们需要一个丰富多样的人工智能助手生态系统，而只有开源才能实现这一点，这也是Meta正在积极推广的方向。
杨立昆称，Meta在推动人工智能的开放创新，但“开源”一词在技术层面存在复杂性。尽管模型的源代码和权重公开可用，且用户可免费使用，但其使用仍受限制条款约束，例如禁止用于危险或不当用途。为防止模型生成无意义或有害内容，Meta在训练中进行了优化和微调。然而，这种优化效果有限，通过“提示注入”（prompt injection），用户可能使模型偏离优化范围，导致不可预测的结果。这与模型预训练数据的质量密切相关。
此外，Meta在模型训练中也面临争议，例如因使用盗版网站内容训练LLM而引发版权诉讼。尽管如此，Meta仍致力于通过开源和开放研究推动人工智能的普及化，如发布Llama系列模型，为全球研究社区提供强大工具。
人工智能需要平衡技术进步和社会责任
杨立昆还表示，Meta在人工智能领域的探索经历了多个阶段，尤其是在内容审核和价值观引导方面。与传统设备不同，人工智能系统需要具备一定的价值观，以应对复杂的社会问题。Meta近期调整了其内容审核策略，允许更多可能被视为冒犯性甚至去人性化的言论存在。
这种调整引发了关于科技公司在价值观引导中角色的讨论。一方面，政府可能会施压要求控制人工智能聊天机器人的回答，尤其是在性别、性取向等敏感问题上。另一方面，Meta需要在保护言论自由和维护社会和谐之间找到平衡。
此外，Meta在内容审核方面也经历了技术进步。不过，这种高度自动化也带来了新的问题，例如误删了一些正常内容。因此，Meta在不同情境下调整了审核策略：在冲突地区，审核标准可能更为严格；而在选举期间，为了减少社会对立，审核标准可能会适当放宽。
Meta的这些调整和探索表明，人工智能的发展不仅是技术问题，更是社会价值观的体现。如何在技术进步与社会责任之间找到平衡，将是Meta未来需要持续关注的重要课题。（腾讯财经特约编译无忌）
发表评论