6月11日的WWDC大会上,Apple Intelligence作为一个单独环节进行介绍,看得出苹果对于自家的AI有着高度的重视。但会后我们国内普片对于苹果的AI有这很多负面的评价,例如没有创新,不够黑科技、安卓都用玩烂了等评价。
Apple Intelligence 由多个高性能生成模型组成,这些模型专门针对用户的日常任务,并且可以动态适应他们当前的活动。Apple Intelligence 中内置的基础模型针对用户体验进行了微调,例如编写和精炼文本、对通知进行优先级排序和总结、为用户与家人和朋友的对话创建有趣图像,以及采取应用内操作来简化应用之间的交互。
基础模型
本地模型:设备上约 30 亿参数的语言模型,测试得分高于诸多 70 亿参数的开源模型(Mistral-7B 或 Gemma-7B);
云上模型:可通过私有云计算并在 Apple 芯片服务器上运行的更大云端语言模型。
优化方面
苹果在设备端模型和服务器端模型都使用了 grouped-query-attention,设备上模型使用 49K 的词汇大小,而服务器模型使用 100K 的词汇大小,其中包括额外的语言和技术标记。
通过优化,苹果号称在 iPhone 15 Pro 上,能够实现每个 prompt token 约 0.6 毫秒的首次 token 延迟,以及每秒 30 个 token 的生成速率。
在指令跟踪评估(IFEval)测试中,苹果本地模型性能优于包括 Phi-3-mini、Mistral-7B 和 Gemma-7B 等模型,且与 DBRX-Instruct、Mixtral-8x22B 和 GPT-3.5-Turbo 相比毫不逊色;而云上模型水平基本与 GPT-4-Turbo 持平。
尽管我们对于苹果AI缺乏创新嗤之以鼻,但市场还是给了苹果正面的回应。6月12日苹果股价上涨7.26%,6月13日上涨2.86%,两天升幅超过10%,总市值3.27万亿美元。让苹果重新站上全球市值第二的科技类公司,距离排名一的微软仅仅一步之遥。
我们认为的不够创新,可能仅仅是我们认为,而且对于苹果并没有实际的影响。
可以今后使用Apple Intelligence,并官网在售的最低苹果产品推荐。