联想最终发布了新的AI技术，当地推理功能与Op

联想创新技术会议（技术世界）今天5月7日报道了Kuai Technology，重点是从个人到企业的混合人工智能，并在各个方面展示了创新的联想技术。在会议上，联想展示了最新的变化，以实现末端计算能力 - “联想推理加速发动机”。据了解，该推理引擎由联想，Tsinghua University和Wuwen Xinqiong共同开发，是一种软件和硬件，可与优化平台合作，旨在为出色的AI PC推理而设计。它可以使普通PC的本地功能与去年OpenAI发布的O1-MINI云模型相媲美。在不同情况下，“联想推理加速发动机”在不同情况下的构想速度显着提高，并且通过平行解码，优化操作员融合的高性能通过高性能的电力消耗和记忆使用显着降低，他致源计算技术。结合大型芯片，加速硬件和软件优化之间的无缝合作进一步增强了性能。为了展示“联想推理加速发动机”的强度，建立了“种族速度”。三台AI PC具有相同配置的2024年大学入学考试数学问题：第一代大型模型：需要27秒，答案为0分。第二代大型模型：需要26秒，答案已满。第二代大型型号 +“联想推理加速发动机”：需要13秒，并且是FullG答案。它表明，提高模型的功能和“联想推理加速发动机”可以提高计算强度，使设备填充，更快的解码速度和耗时的短缺，同时涵盖更少的内存和较低的能耗。 AI在设备中的功能具有GR饮食有所改善。联想集团董事长兼首席执行官Yang Yuanqing表示，每个人都将体验即将推出的下一代AI PC的“联想推理加速器”带来的强大本地推理能力。它的性能可以与基于大云的模型相媲美，但成本较小。 [本文的结尾]如果您需要打印，请确保指示来源：Kuai技术编辑：Qiubai