オンデバイスAIを極める - Core MLモデル変換の全技術 by 堤 修一

昨今、世の中を席巻している大規模言語モデル（LLM）をはじめ、音声認識、画像生成、物体検出やセグメンテーションなど、多くのタスクで機械学習（ML）モデルが大活躍しています。これらのモデルをiOS/macOS/visionOS/watchOSのハードウェア性能を最大限に引き出しつつ動かすには、Core MLモデルに変換する必要があります。

逆にいえば、モデル変換の技術をマスターすることで、最先端のモデルをいち早く利用したり、自前データで学習したモデルをアプリに組み込むことが可能になります。

Core MLモデルへの変換には「coremltools」というツールを利用します。ドキュメントもあり、その変換手順は一見シンプルに見えますが、実際のところまず一発ではうまくいかないでしょう。多くの場合、モデルの一部を切ったり置き換えたりする「手術」が必要となります。

本セッションでは、Core MLモデル変換に必要な技術や知識、落とし穴、問題の回避方法について、実際のモデルを題材に解説します。その中で、Appleデバイスの性能を最大限引き出すコツや、モデルサイズを圧縮する方法なども紹介します。