タグ付きの投稿: Apple Silicon
Content related to Apple Silicon
oMLX: SSDキャッシュ付きMacメニューバーLLMサーバー
oMLXを発見してください。Apple Silicon Mac向け究極のローカルLLMサーバー。メニューバーからLLM、VLM、エンベディングを実行。連続バッチ処理、階層型KVキャッシュ（RAM + SSD）、マルチモデルサービングを備えています。管理ダッシュボード、OpenAI API互換性、Claude Code最適化、Hugging Faceからのワンクリックモデルダウンロードを搭載。DMG、Homebrew、ソース経由でインストール – クラウドコストなしでプロダクション級ローカルAIを求める開発者に最適。
Apple Neural Engine上でトランスフォーマーをトレーニング - ANE GitHub
ANE Trainingを発見：AppleのNeural Engineをリバースエンジニアリングし、M4ハードウェア上でフルトランスフォーマートレーニング（前方+後方パス）を直接実行する画期的なオープンソースプロジェクト。純粋なANE計算で9.3ms/ステップ、1.78 TFLOPSの持続性能を達成 - Metalなし、GPUなし。詳細ベンチマーク、MILプログラム生成、IOSurface最適化、チャネルファーストレイアウトを含む。ハードウェアの限界を押し広げるApple Silicon ML研究者に最適。
Appleのコンテナ化：macOSでLinuxコンテナを動かす
macOS上でLinuxコンテナをシームレスに実行できる、Apple製オープンソースのSwiftパッケージ「Containerization」が登場しました。このプロジェクトは、AppleシリコンのVirtualization.frameworkを活用し、効率的なコンテナ管理、OCIイメージの取り扱い、そして軽量な仮想マシンを提供します。開発者がこのツールをどのように活用してワークフローを効率化し、リモートレジストリと連携し、さらにはRosetta 2を使ってx86_64コンテナを実行できるのかを解説します。数秒未満の起動時間や柔軟なカーネル構成など、現代の開発環境向けに設計されたこの革新的なソリューションの機能、要件、そしてビルドプロセスについて深く掘り下げます。