今日から始める大規模言語モデルのプロダクト活用 by 松本 勇気

YAPC::Hakodate 2024
採択
2024/10/05 11:05〜
Track B
トーク (40分)

今日から始める大規模言語モデルのプロダクト活用

y_matsuwitter 松本 勇気 y_matsuwitter
19

大規模言語モデル(LLM)は、今や多くの企業や開発者にとって身近なツールとなりました。しかし、その実装には様々な課題や考慮すべき点があります。
本セッションでは、ここ1年半ずっとLLM時代のプロダクトの設計・開発・営業・導入に取り組んできた中で得られたLLMの実装パターンとその実際について、ソフトウェア開発者が活用するという視点から解説します。

コンテンツ:

  • LLM活用パターンの概観(Chat、RAG、Agent、Workflow、MLモデルとしての活用)
  • 実現できるアウトカムとコストの考え方
  • 具体的な実活用と課題と解決策

国内では、思ったほどLLMらしいプロダクトやその活用が増えていない危機感があります。
本セッションを通じて、明日からなにか取り組んでみる、プロダクトに反映させてみる、というきっかけを作れたらと思います。