ローカルLLMの現在とそれを支える技術 by Yudai Yamamoto

ローカルLLMが個人の端末上で動作する革新的なAI技術として注目を集めており、一部では非公開の最高性能モデルに匹敵するとも言われています。

リソースが限られた企業にとっては、将来的により低コストでLLMをプロダクト導入できる可能性が広がっています。今後数ヶ月から1年程度で、ローカルLLMの性能がさらに向上し、より実用的になると予想されています。 AIが日常生活やビジネスにさらに深く浸透し、狩野モデルでいうところの当たり前品質になる未来はかなり近くまで来ているのかもしれません。

一方でローカルLLMに関する情報は、往々にしてAIの専門家向けの高度な内容か、一般向けの簡略化された内容のいずれかに偏りがちです。 本LTでは、これらの中間に位置する幅広いエンジニア層を対象に、ローカルLLMの現在の状況とこの技術がどのようにして実現されているかについて話します。