据媒体消息，苹果日前发表一篇论文，介绍了一种可以再超出可用DRAM容量的设备上运行LLM（大语言模型）的方法。论文称，LLM密集的计算量和内存要求对于DRAM容量来说是一大挑战，该论文构建了一个以闪存为基础的推理成本模型，将在两个关键领域进行优化：减少从闪存中传输的数据量、更多更流畅地读取数据块。这意味着，该项突破性研究扩大了LLM适用性和可及性，苹果将生成式AI集成到iOS18的计划或将加快推进。
生成式AI已经改变了我们的交互形态，包括三星、小米、荣耀等在内的国内外手机厂商纷纷布局将生成式AI搬上手机，大模型融入手机为大势所趋。其中三星S系列新机将在明年1月18日的春季发布会发布，主打AI功能，GalaxyAI将一同发布。根据市场调查机构Counterpoint Research近日发布的《生成式AI智能手机出货量洞察》报告，预估2024年会成为生成式AI智能手机的关键元年，预估出货量将达到1亿台，到2027年将达到5.22亿台。ChatGPT依赖大模型、大数据、大算力支撑，其出现标志着通用人工智能的起点及强人工智能的拐点，智能手机端搭配AI有望成为新卖点，算力等高端芯片需求持续增长，有望带动相关市场空间扩张。
光大证券分析称，边缘AI具备安全、定制和高效优势，AI PC和AI手机有望成为消费电子转型的新趋势。生成式AI同智能终端结合，具备三点优势：①个人信息无需上传云端，隐私泄露和数据安全风险降低；②AI模型接入本地数据库和个人信息，有望实现通用基础AI大模型向个性化定制小模型转变，提供更适合的用户服务；③通过压缩AI大模型和终端软硬件适配，边缘AI可能降低运行成本、加快响应速度和提高服务效率。因此，联想、谷歌和微软均发布AI PC或AI手机等产品，小米14将成为首发搭载高通骁龙8 Gen 3处理器的手机；软件端将AI大模型嵌入终端设备，硬件端提升AI相关硬件的性能，帮助智能终端搭载的聊天机器人、实时翻译、AI相机、生产工具等AI功能的种类完善和性能增强。
该机构表示，考虑到AI算力由云端向边缘端延伸，AI芯片厂商市场空间可观，推荐英伟达，建议关注AMD、高通、英特尔；AI PC和AI手机等AI智能终端可能成为未来消费电子行业在AI时代下的变革方向，硬件厂商抢先布局有利于确定创新方向和市场地位，推荐联想集团（H股），建议关注谷歌、微软、小米集团（H股）；Arm架构有望乘边缘AI东风，提升在PC领域的市场占有率，建议关注ARM。
