• PrismML 将微型大语言模型引入搭载高通芯片的智能眼镜
  • 发布于 1小时前
  • 4 热度
    0 评论
堆代码网讯 AI实验室PrismML——一家由加州理工学院研究人员创立,加州大学伯克利分校的Ion Stoica担任顾问的AI实验室——为其微型语言模型开发了一个版本,用于运行在高通骁龙芯片上的智能眼镜。周三,在高通骁龙峰会上,这家芯片制造商展示了PrismML的1-bit Bonsai大语言模型,该模型可以在基于骁龙AR1 Gen 1平台构建的AI智能眼镜上本地运行。

正如TechCrunch此前报道的,PrismML的成名之处在于它能大幅缩小大型模型(在此例中缩小至四分之一),同时在标准基准测试中几乎保留其全部性能。智能眼镜版本是一个20亿参数的模型,针对视觉和语言进行了调优,因此佩戴者可以实时询问他们正在看什么。PrismML更大的目标是开放权重AI,它能在设备上运行,并更好地利用设备已有的算力。这家初创公司将其宣传为一种替代方案,以摆脱对专有AI实验室隐私承诺及其对更多算力无休止需求的依赖。

为高通芯片发布模型是朝着这一愿景迈出的一步。但目前还没有搭载PrismML的智能眼镜发布。
用户评论