苹果内存优化将大模型装进iPhone 明年或成AI手机关键元年
——————
据媒体消息,苹果日前发表一篇论文,介绍了一种可以再超出可用
DRAM 容量的设备上运行LLM(大语言模型)的方法。论文称,LLM密集的计算量和内存要求对于DRAM容量来说是一大挑战,该论文构建了一个以闪存为基础的推理成本模型,将在两个关键领域进行优化:减少从闪存中传输的数据量、更多更流畅地读取数据块。这意味着,该项突破性研究扩大了LLM适用性和可及性,苹果将生成式AI集成到iOS18的计划或将加快推进。
生成式AI已经改变了我们的交互形态,包括三星、小米、荣耀等在内的国内外手机厂商纷纷布局将生成式AI搬上手机,大模型融入手机为大势所趋。其中三星S系列新机将在明年1月18日的春季发布会发布,主打AI功能,GalaxyAI将一同发布。根据市场调查机构Counterpoint Research近日发布的《生成式AI智能手机出货量洞察》报告,预估2024年会成为生成式AI智能手机的关键元年,预估出货量将达到1亿台,到2027年将达到5.22亿台。ChatGPT依赖大模型、
大数据、大算力支撑,其出现标志着通用
人工智能的起点及强人工智能的拐点,智能手机端搭配AI有望成为新卖点,算力等高端芯片需求持续增长,有望带动相关市场空间扩张。