Perplexity 开源了 Lily,它是 Perplexity 计算机中混合计算背后的本地推理引擎。采用 Rust 构建,具有针对一个芯片系列上的一种型号的定制 Metal 内核,其平均预填充时间是 MLX-LM 的 1.23 倍……
开放权重的发布会对闭源定价形成压力、扩大可及性,改变整个生态「自建 vs 采购」的权衡。
本文提及的厂商与模型 —— 打开它们的页面与实时价格
相关 HotON.ai 页面
摘要仅供参考,请点击来源链接查看全文。演示条目为示意。