さあ、ローカルLLMを動かして、今すぐに 〜SvelteKitとPHPで操る大規模言語モデル〜 by fkuMnk

ソフトウェア開発者の皆さん、上空でのプログラミングに困っていませんか？
飛行中だと、WiFiがなくてChatGPTと繋がらないよ！ (´；ω；｀) みたいなことが起きて困りますよね？

実は、お手持ちのローカル環境で大規模言語モデルを動かす！ という技を使うことで飛行中のプログラミングは解決できるのです！ というのは数年未来のお話です。 現在はまだ実用的ではありません。 しかし、技術的には可能です。 技術的に可能ならやるしかないですよね。
ということで、今回は指定したプロンプトに対して生成された答えを返す、という仕組みをローカル環境で作ってみます。 普段使いのSvelteKitでOllamaを操作し、推しの大規模言語モデルと対話してみませんか？ PHPの活躍にもご期待ください。

※この分野は急速に発展途上中であり、現時点(1月)の内容が発表時の(6月)には、全然そんなことしなくてもよかったのに...となっている可能性もあります。 ご了承ください。