タグ付きの投稿: Transformer Training
Content related to Transformer Training
Apple Neural Engine上でトランスフォーマーをトレーニング - ANE GitHub
March 03, 2026
ANE Trainingを発見：AppleのNeural Engineをリバースエンジニアリングし、M4ハードウェア上でフルトランスフォーマートレーニング（前方+後方パス）を直接実行する画期的なオープンソースプロジェクト。純粋なANE計算で9.3ms/ステップ、1.78 TFLOPSの持続性能を達成 - Metalなし、GPUなし。詳細ベンチマーク、MILプログラム生成、IOSurface最適化、チャネルファーストレイアウトを含む。ハードウェアの限界を押し広げるApple Silicon ML研究者に最適。