Mac变身AI超算！用Claude逆向M4芯片，纯推理引擎跑通Transformer

本文介绍了通过逆向工程解锁苹果M4芯片内置的神经网络引擎（ANE）底层权限，使其能够支持完整的Transformer模型训练。背景是ANE原本被限制为仅用于推理，且权限封闭。研究目的是通过绕过CoreML框架，直接调用私有API，以揭示ANE的真实硬件性能并实现训练功能。结论表明，直接访问ANE可大幅提升性能，其能效比高达6.6 TFLOPS/W，约为英伟达A100的80倍，同时成功在ANE上跑通了1.1亿参数的Transformer模型训练，并通过系统级hack解决了编译限制等问题，证明了Apple Silicon在端侧AI的潜力受限于软件生态。