LLM・RAG– category –
-
【Llama3】Torchtuneで簡単ファインチューニング(QLoRA)
この記事では、PyTorchのTorchtuneを使ったLlama3のファインチューニング(QLoRA)を紹介します。 Torchtuneを使って簡単にファインチューニングの実装ができるようになります。 TorchtuneでLlama3のファインチューニング（QLoRA） Torchtuneとは この記事で... -
【Llama3】SFTTrainerで簡単ファインチューニング(QLoRA)
この記事では、Hugging FaceのSFTTrainerを使ったLlama3のファインチューニング(QLoRA)を紹介します。 SFTTrainerを使うことで、少ないコードでファインチューニングの実装ができます。 SFTTrainerでLlama3のファインチューニング（QLoRA） SFTTrainerとは... -
【Phi-3 Vision】OCRが速攻で作れる！軽量マルチモーダルSLMの使い方
Phi-3 Visionは、Microsoftが開発した無料で使えるマルチモーダルSLM(小規模言語モデル)です。 画像からテキストを読み取ることができ、Phi-3 Visionを使えばOCRを簡単に作ることができます。 この記事では、Phi-3 Visionの使い方を分かりやすく解説します... -
Phi-3とは？使い方から性能、商用利用まで分かりやすく解説！
Phi-3は、Microsoftが開発した無料で使える高性能なSLM(小規模言語モデル)です。 軽量モデルであるため、小さなGPUメモリのローカル環境でも動かすことができます。 この記事では、Phi-3の性能から使い方まで紹介します。 Phi-3とは Phi-3(ファイスリー)は... -
【Llama3】Unslothで爆速ファインチューニング(QLoRA)
この記事では、Unslothを使ったLlama3のファインチューニング(QLoRA)を紹介します。 UnslothによりGPUメモリの使用量を大幅に削減して、高速にファインチューニングができるようになります。 UnslothでLlama3のファインチューニング（QLoRA） Unslothとは ... -
Llama3とは？使い方から性能、商用利用まで分かりやすく解説！
Llama3は、Metaが開発した無料で使える高性能LLMです。 Llama3 70Bの性能は「Gemini1.5Pro」や「Claude3 Sonnet」を上回ると言われています。 この記事では、Llama3の性能から使い方まで紹介します。 Llama3とは Llama3は、Metaが開発したオープンソースの... -
Sarashinaをファインチューニング【ソフトバンクの日本語LLM】
この記事では、Sarashina(サラシナ)のファインチューニングを紹介します。 Sarashinaはソフトバンクの子会社のSB Intuitionsが開発した日本語に強いLLMです。 Sarashinaの事前学習モデルに指示チューニングを施すことで、チャット形式の応答ができるように... -
ソフトバンクの日本語LLM「Sarashina」の使い方を解説！
Sarashinaは、ソフトバンクの子会社のSB Intuitionsが開発した日本語に強いLLMです。 70億・130億・650億パラメータの複数モデルを公開し、いずれも無料で商用利用可能です。 この記事では、Sarashinaの性能から使い方まで紹介します。 Sarashinaとは Sara... -
Ollamaの使い方！ローカル環境でLLMを動かす
Ollamaはローカル環境でLLMが使える無料のツールです。 Ollamaを使えば、LlamaやGemmaなどの人気LLMをローカル環境で動かすことができます。 この記事では、Ollamaの環境構築からモデルを使ったテキスト生成の方法まで紹介します。 Ollamaとは Ollamaは、... -
Hugging Faceの使い方！アクセストークン作成からログインまで
この記事では、Hugging Faceアカウントの作り方やコマンドラインからのログイン方法を紹介しています。 Hugging Faceを使うことで、生成AIに必要なモデルやデータセット、Transformersライブラリを簡単に利用できるようになります。 Hugging Faceとは Hugg...
