苹果成为AI开发者在利用大规模开源大模型上的首选

苹果成为AI开发者在利用大规模开源大模型上的首选

摘要:

  • 苹果推出M3芯片,使得在MacBook Pro上无缝工作与大型AI变换模型成为可能。
  • M3支持高达128GB的内存,革新了AI工作流程。
  • 增强的神经引擎加速了机器学习模型,同时优先考虑隐私。
  • 开发者可以在14英寸MacBook Pro上运行庞大的开源LLM,几乎不损失质量。
  • AMD、英特尔、高通和英伟达等其他参与者也在AI开发上投资。
  • 苹果的M3芯片比M1和M2芯片提供了显著的性能改进。
  • 重新设计的GPU架构提高了GPU利用率并提升了性能。
  • 在不断演变的AI领域,苹果成为AI开发者的首选。
    主要AI新闻:
    在人工智能(AI)和机器学习(ML)的世界中,苹果最近推出了M3芯片,这是一项改变游戏规则的创新,迅速赢得了AI开发者的青睐。这些先进的M3芯片使开发者能够在他们的MacBook设备上无缝地工作与拥有数十亿参数的大型变换模型。苹果在最近的博客文章中自豪地宣布,M3芯片支持高达惊人的128GB内存,解锁了此前在笔记本电脑上被认为是不可能的工作流程。

目前,M3芯片专为14英寸MacBook Pro提供,提供M3、M3 Pro和M3 Max芯片的配置。同时,16英寸MacBook Pro支持M3 Pro和M3 Max配置,为AI爱好者和专业人士提供了多样化的选择范围。苹果还强调,这些芯片集成了增强的神经引擎,不仅加速了强大的机器学习模型,还优先考虑了用户隐私,这在现代AI领域是一个关键的考虑因素。

AI爱好者易定表示,他对此感到兴奋:“活在这样的时代真好。”他指出,开发者现在可以在14英寸的笔记本电脑上轻松运行最大的开源语言模型(LLM)Falcon,它拥有惊人的1800亿参数,几乎不损失质量。

值得注意的是,在笔记本电脑上运行开源LLMs的概念并不是全新的。过去,AI实践者尝试使用M1芯片完成类似的壮举。invideo的联合创始人兼首席技术官Anshul Khandelwal在他的M1芯片驱动的MacBook上进行了一个650亿参数的开源LLM的实验。他指出,这种变革性的能力正在改变AI应用的景观,每周都在变化。他自信地说:“一个每个技术人员都在本地运行LLM的未来并不遥远。”

以轻松的口吻,Perplexity.ai的联合创始人兼首席执行官Aravind Srinivas幽默地建议,当MacBook设备在每秒浮点运算(FLOPs)性能方面变得足够强大时,那些在高速内联网上使用这些高性能笔记本电脑的组织可能会面临监管审查,并且可能需要向政府报告其存在。

M3芯片对AI工作负载的影响
苹果的M3芯片系列在性能上相比其前身取得了巨大飞跃。苹果声称,M3芯片比M2系列芯片快了15%,比M1系列芯片快了惊人的60%。M2与M3芯片之间明显的性能差异凸显了最新一代芯片在技术进步方面取得的重大成就。

尽管核心数量保持不变,M3芯片提供了不同的性能和效率核心平衡,特别是拥有六个性能核心和六个效率核心,而不是八个性能核心和四个效率核心。此外,这些芯片支持高达36GB的内存,相比M1和M2芯片的32GB容量有了显著提高。

M3芯片的一个亮点是它对高达128GB统一内存的支持,实质上是相比前代芯片内存容量的一倍。这一扩展的内存容量对于需要大量内存资源来训练和执行大型语言模型及复杂算法的AI和ML工作负载至关重要。

除了增强的内存支持和神经引擎外,M3芯片还引入了专为提高性能和效率而设计的重新设计的GPU架构。这一架构包括动态缓存、网格着色和光线追踪能力,旨在加速AI和ML工作负载并优化整体计算效率。

M3芯片的GPU采用了“动态缓存”,这是一项与传统GPU不同的突破性特性,通过实时利用局部内存,提高GPU利用率,并在要求苛刻的专业应用和游戏中显著提升性能。

对于游戏开发者和使用图形密集型应用程序如Photoshop或AI驱动的照片编辑工具的用户而言,M3芯片的增强GPU能力提供了显著的好处。苹果声称,得益于硬件加速的网格着色和改进的性能,这些GPU的速度可以达到M1系列芯片的2.5倍,同时消耗更少的电力。

苹果与竞争对手的比较
虽然苹果在AI和ML领域通过其M3芯片取得了显著进展,但它并不是唯一投入此领域的巨头。AMD、英特尔、高通和英伟达等其他行业巨头也在加大投资,以增强边缘设备的能力,使用户能够在笔记本电脑和个人电脑上运行大型AI工作负载更加可行。

例如,AMD推出了AMD Ryzen AI,特点是x86 Windows笔记本电脑上的首个内置AI引擎,提供了独特的集成AI引擎。另一方面,英特尔依靠其第14代流星湖处理器,该处理器采用平铺架构来混合和匹配不同类型的核心,实现性能和功耗效率之间的最佳平衡。

高通则推出了Snapdragon X精英版,公司首席执行官克里斯蒂亚诺·阿蒙声称,其性能超过了苹果的M2 Max芯片,同时在达到可比的峰值性能时消耗的功率减少了30%。同时,英伟达正在积极投资边缘使用案例,并致力于设计与微软的Windows操作系统兼容的CPU,利用Arm技术。

结论:
苹果的M3芯片将该公司定位为AI开发市场的领跑者。这些芯片提供了无与伦比的性能和内存容量,使其成为运行大规模语言模型的首选。虽然竞争对手也在取得进展,但苹果在便携设备上推进AI的承诺预示着该公司在这个迅速发展的市场中有一个光明的未来。

Source: https://analyticsindiamag.com/apple-becomes-ai-developers-new-favourite-for-running-biggest-open-source-llms/

Read more

简历正在消亡:你该怎么找工作?

简历正在消亡:你该怎么找工作?

曾经,写一份简洁有力的简历、搭配量身定制的求职信,是找工作的“黄金标准”。 但现在,这一切正在迅速变化。虽然许多公司仍然要求提供简历,但越来越多的招聘方已经不再把它当作关键筛选依据。原因很简单:传统简历太静态、太片面,远远无法满足现代招聘的需求。 下面,我们就来看看为什么简历正在失宠,又有哪些新趋势正在取而代之。

By Leo Pang
在 AI 加速冲击职场的时代,年轻人如何不被淘汰?

在 AI 加速冲击职场的时代,年轻人如何不被淘汰?

标题:Shopify CEO 的 AI 招聘新政,让 40 岁以下的人都该警惕 副标题:在 AI 加速冲击职场的时代,年轻人如何不被淘汰? 作者:Michael Lim 原文发布于 2025 年 4 月 2022 年以来,从 ChatGPT 问世,到图像生成、视频生成、代码辅助,AI 的每一次进化都带来行业洗牌。 这次轮到招聘流程了。 Shopify CEO Tobi Lutke 最近发布的一份内部备忘录,引发了热议: "在请求增加人手或资源前,员工必须先证明自己无法通过 AI 完成任务。" 这不是一句口号,而是一道明确的公司政策。 换句话说:你需要为“雇一个真人”

By Leo Pang
就是这周末:你能用ChatGPT API 做的 4 件赚钱事

就是这周末:你能用ChatGPT API 做的 4 件赚钱事

你可能已经玩过 ChatGPT了,但玩不够,不如开始 "用它创业" 。 ChatGPT最新的图像生成 API,已经被 Adobe、Airtable、OpusClip 等公司接入到他们的产品里。而对你而言,这是一个可以快速进场的红利池。 你不需要重新训练AI模型,也不需要写复杂编程。你需要的,是把这个图生成 API 包裹成一个具有实际用途和商业模型的小业企产品。

By Leo Pang