据VB消息,苹果公司近期公布了两份研究报告,展示了该公司在人工智能研究方面取得的重大进展。其中一项高效的语言模型推理新技术,有望让复杂的AI系统在iPhone、iPad等小内存设备上流畅运行。这也代表着苹果研究人员解决了在内存有限的设备上部署大语言模型的关键挑战。
众所周知,诸如GPT-4此类大规模模型拥有成千上万的参数,若直接在消费级硬件运用将会产生极高的推理成本。然而,Apple技术专家成功降低了从闪存到内存的推理数据传输,以多种方式将推理延迟提高约4至5倍,在GPU上则高达20至25倍。
此技术对在有限资源环境部署先进大语言模型至关重要,大大增强了其应用范围与适应性。对消费者来说,这些改进或将促使复杂人工智助与聊天机器人能在各种移动设备上畅行无阻。
此前,天风国际证券分析家郭明錤发布报告表示,预计iPhone 16将引入新的AI创新特性。苹果正计划在今年第三季度重组Siri团队,目标在于集成AI生成内容以及大语言模型。
语音交互将成为AI、AIGC、大语言模型的重要接口,因此Siri软件性能强化将是推广AI功能的核心。郭明錤最新调研发现,全款iPhone 16将全面升级麦克风配置,除了更好的防水性能外,还将带来更高的信噪比,从而优化Siri使用体验。