iOSDC Japan 2025
ルーキーズLT（5分）
生成AIを使ったアプリをリリースしたら1ヶ月でGoogleからAPIレベルで垢BANをくらった話
りゅう
ryuprogrammer
先日、生成AIのAPIを利用してユーザーがAIとチャットできるアプリをリリースしたところ、ユーザーがリクエストするプロンプトが激しすぎて1ヶ月でAPIレベルで垢BANされました。
生成AIを利用したアプリ開発では、利用規約で定められた禁止事項（違法行為助長、ヘイトスピーチ、誤情報拡散など）に抵触すると、APIレベルで利用制限や停止を受けるリスクがあります。多くの開発者が「運用開始時は問題なかったものの、禁止ワードや表現の見逃しで制限→サービス停止」という課題に直面しているのではないでしょうか？
本セッションでは、実際にGemini APIを中心に、禁止事項に引っかからないようにする対策から、Googleから警告が来た時の対処方法まで紹介します。