首页
要闻详情
图标图标

高通(QCOM.US)和Meta(META.US)计划在手机上运行大型AI模型

金银汇金银汇
关注
2023-07-19 10:00:19
838
高通(QCOM.US)和Meta Platforms(META.US)宣布,从2024年开始,Meta的新大型语言模型Llama 2将在采用高通芯片的手机和个人电脑上运行。

指股网获悉,高通(QCOM.US)和Meta Platforms(META.US)宣布,从2024年开始,Meta的新大型语言模型Llama 2将在采用高通芯片的手机和个人电脑上运行。

到目前为止,大型语言模型主要在采用英伟达(NVDA.US)图形处理器(GPU)的大型服务器群中运行,因为该技术对计算能力和数据的需求巨大,这提振了英伟达的股价,该股今年以来上涨了逾220%。

但高通等为手机和个人电脑制造尖端处理器的公司在很大程度上错过了人工智能的繁荣。到目前为止,高通股价在2023年上涨了约10%,落后于纳斯达克指数36%的涨幅。

周二的声明表明,高通希望将其处理器定位为非常适合人工智能,但要“在边缘”或设备上运行,而不是“在云端”。如果大型语言模型可以在手机上运行,而不是在大型数据中心运行,这可能会降低运行人工智能模型的巨大成本,并可能带来更好、更快的语音助手和其他应用程序。

高通认为,在高通设备上提供Meta的开源Llama 2模型将使智能虚拟助手等应用成为可能。Meta的Llama 2可以做许多与ChatGPT相同的事情,但它可以被打包成一个更小的程序,这使得它可以在手机上运行。

高通的芯片包括一个张量处理单元(TPU),非常适合人工智能模型所需的各种计算。然而,与配备尖端GPU的数据中心相比,移动设备上可用的处理能力相形见绌。

Meta的Llama之所以引人注目,是因为Meta公布了它的“权重”,这是一组有助于管理特定人工智能模型如何工作的数字。这样做将允许研究人员以及企业在自己的计算机上使用人工智能模型,而无需征得许可或付费。其他著名的人工智能模型,如OpenAI的GPT-4或谷歌的Bard,都是闭源的,它们的权重也是严格保密的。

高通过去曾与Meta密切合作,特别是在Quest虚拟现实设备的芯片方面。高通还展示了一些在其芯片上缓慢运行的人工智能模型,比如开源图像生成器Stable Diffusion。


文章来源智通财经由指股网整理发布,转载请注明出处。

风险提示及免责声明

文章来源于智通财经,转载注明原文出处,此文观点与指股网无关,理性阅读,版权属于原作者若无意侵犯媒体或个人知识产权,请联系我们,本站将在第一时间删掉 ,指股网仅提供信息存储空间服务。

可信网站身份验证经营性网站备案信息工商网监电子标识网站安全证书
指股网浙ICP备17010029号-4
广播电视节目制作经营许可证:(浙)字第04719号
许可证图标网络文化经营许可证:浙网文(2018)9043-734号
备案图标浙公网安备:33010902002276号

本站郑重声明:指股网所有栏目频道仅提供信息存储空间服务。所载文章、数据仅供参考,风险自担!版权属于原作者若无意侵犯媒体或个人知识产权,请联系我们,本站将在第一时间处理。