苹果AI被存储卡脖子?

苹果AI被存储卡脖子?

苹果的端侧AI,似乎被存储“卡了脖子”。

在AIGC横空出世并迅速席卷全球的这两年间,苹果显然有些姗姗来迟。如今这位迟到的“老大哥”终于交出了自己的“AI”作品——不是Artificial Intelligence,而是Apple Intelligence。

对于苹果的AI表现,外界大多认为“有新意,但不多”。WWDC召开当天,苹果美股不涨反跌近2%,不过次日股价便“收复失地”,一举涨超7%,再创历史新高。

但并非所有苹果设备都能搭载Apple Intelligence。在苹果“精准的刀法”下,iPhone中仅有15 Pro/Pro Max支持AI功能,iPad和Mac中也仅有M1芯片或更先进芯片机型支持。

这一次,DRAM成为了苹果AI的关键与瓶颈。

知名分析师郭明錤指出,从配备A16的iPhone 15无法支持Apple Intelligence、但M1机型可以支持,可推论出能否支持目前Apple Intelligence端侧模型的关键应该是DRAM大小,而非AI算力。

M1的AI算力约为11TOPS,低于A16的17TOPS;但后者的DRAM为6GB,低于M1的8GB。因此,目前的Apple Intelligence端侧AI大模型对DRAM的需求约为2GB或更低。

对DRAM的需求可以用另一种方式验证。Apple Intelligence采用设备端3B大模型,经过压缩后,随时需要预留约0.7-1.5GB DRAM来运行Apple Intelligence的端侧大模型。

苹果未来势必将进一步升级自家的端侧AI,郭明錤预计最有可能升级到7B大模型,届时便需要更大的DRAM来运行。苹果日后是否会将此作为高低阶机型的产品分隔策略则有待观察。

AI手机呼唤更大“存力”

一直以来,苹果都在着力弱化iPhone中DRAM的存在感,历代iPhone的DRAM升级也堪称“吝啬”。

在眼下已面世的iPhone系列中,iPhone 15 Pro/Pro Max是唯二的8GB DRAM机型,从郭明錤之前另一篇分析来看,iPhone 16系列将延续8GB DRAM,这也将限制苹果的端侧大模型开发。

vivo副总裁黄韬之前提到,大模型对手机运行存储性能的要求,起码是8G起步——但那是之前。AI大模型的发展速度令人咂舌,站在当下时点,8GB似乎也要不够用了。

作为苹果的老对手,谷歌之前已经推出了以AI为主打卖点的新机型Pixel 8系列。但谷歌之后特别声明,最新的AI大模型Gemini仅能在Pixel 8 Pro上运行,拒绝在Pixel 8上运行Gemini。

这两款机型基础硬件规格大致相同,最大的区别之一就是存储空间。谷歌解释称,Pixel 8 Pro拥有12GB DRAM,非常适合用来运行Gemini Nano,可以充分释放它的潜力;但Pixel 8只有8GB DRAM,如果贸然启用该功能,可能会影响用户的正常使用体验。

IDC指出,16GB RAM将成为新一代AI手机的基础配置。

联发科无线事业部AI技术高级经理庄世荣则认为,130亿参数量大模型运行需要有13GB的存储容量(INT8),同时智能手机运行安卓操作系统需要4GB存储空间,相对流畅地运行其他手机APP需要6GB存储空间,AI模型端侧推理部署的手机存储容量应该达到23GB,才能够实现较好的用户软件使用体验。

本文来自微信公众号:科创板日报 (ID:chinastarmarket),作者:郑远方

Copyright: 采用 知识共享署名4.0 国际许可协议进行许可

Links: http://www.yixiyilu.com/articles/1720658543515