苹果 GPT在你的口袋里吗？这可能比你想象的更早成为现实。苹果人工智能研究人员表示，通过发明创新的闪存利用技术，他们在 iPhone 和其他内存有限的苹果设备上部署大型语言模型 (LLM) 方面取得了关键突破。
法学硕士和内存限制
ChatGPT 和 Claude 等基于 LLM 的聊天机器人非常需要大量数据和内存，通常需要大量内存才能运行，这对于 iPhone 等内存容量有限的设备来说是一个挑战。为了解决这个问题，苹果研究人员开发了一种新技术，使用闪存（应用程序和照片所在的内存）来存储人工智能模型的数据。
将人工智能存储在闪存上
在一篇题为“闪存中的LLM ：有限内存下的高效大型语言模型推理”的新研究论文中，作者指出，移动设备中的闪存存储比传统上用于运行 LLM 的 RAM 更丰富。他们的方法巧妙地绕过了限制，使用了两种关键技术，最大限度地减少数据传输并最大限度地提高闪存吞吐量：
- 窗口化：将其视为一种回收方法。人工智能模型不会每次都加载新数据，而是重用一些已经处理过的数据。这减少了对持续内存获取的需求，使过程更快、更流畅。
- 行列捆绑：这种技术就像分块阅读一本书，而不是一次读一个单词。通过更有效地对数据进行分组，可以更快地从闪存中读取数据，从而加快人工智能理解和生成语言的能力。
据该论文称，这些方法的结合使人工智能模型的运行速度可达 iPhone 可用内存的两倍。这意味着标准处理器 (CPU) 的速度提高了 4-5 倍，图形处理器 (GPU) 的速度提高了 20-25 倍，令人印象深刻。作者写道：“这一突破对于在资源有限的环境中部署高级法学硕士尤其重要，从而扩大了其适用性和可访问性。”
iPhone 上更快的人工智能
AI效率的突破为未来的iPhone开辟了新的可能性，例如更先进的Siri功能、实时语言翻译以及摄影和增强现实方面复杂的AI驱动功能。该技术还为 iPhone 在设备上运行复杂的人工智能助手和聊天机器人奠定了基础，据说苹果已经在研究这一点。
苹果在生成人工智能方面的工作最终可能会被纳入其“Siri”语音助手中。苹果于 2023 年 2 月举办了 AI 峰会，并向员工介绍了其大型语言模型工作。据彭博社报道，苹果的目标是推出与人工智能深度集成的更智能的 Siri 版本。苹果计划更新 Siri 与消息应用程序的交互方式，使用户能够更有效地回答复杂的问题并自动完成句子。除此之外，有传言称苹果计划将人工智能添加到尽可能多的苹果应用程序中。
苹果GPT
据报道，苹果正在开发自己的生成人工智能模型，称为“Ajax”。Ajax 旨在与 OpenAI 的 GPT-3 和 GPT-4 等产品相媲美，它可运行 2000 亿个参数，这表明语言理解和生成具有高水平的复杂性和能力。Ajax 在内部被称为“Apple GPT”，旨在统一整个 Apple 的机器学习开发，提出了将人工智能更深入地集成到 Apple 生态系统中的更广泛战略。
截至最新报告，Ajax 被认为比上一代 ChatGPT 3.5 更强大。然而，也有人认为，截至 2023 年 9 月，OpenAI 的新模型可能已经超越了 Ajax 的能力。
The Information和分析师 Jeff Pu均表示，苹果将在 2024 年末左右在 iPhone 和 iPad 上提供某种生成式 AI 功能，届时 iOS 18 将会发布。Pu 在 10 月份表示，苹果将在 2023 年构建数百台人工智能服务器，并在 2024 年建造更多服务器。据报道，苹果将提供基于云的人工智能和带有设备内处理的人工智能的组合。
您必须登录才能发表评论。