iPhone だけで AI チャットを動かす方法 by Yoshimasa Niwa

今や OpenAI 社の ChatGPT に代表される AI チャットはさまざまなアプリケーションに組み込まれて活用されるようになりました。

しかし多くのアプリは外部のチャットサービスにリクエストして結果を表示するというものがほとんどで、その結果、入力された内容がユーザーの知らないうちに外部に送信される懸念、また外部のサービスに依存する関係上、アプリにはさまざまな制約が残ります。

このセッションではそれらの問題を踏まえて、また技術的な検証を含めて、CoreML を含めたさまざまなオンデバイスで動作する AI フレームワークを検討します。
そして、実際に iPhone だけで動作する AI チャットアプリを作成し、巨大な LLM のようなモデルの取り扱いや、オンデバイスのメモリ限界などの問題を検討します。

対象とする方: iOS アプリ開発の経験がある中・上級者