【LangSmith】アカウント作成からAPIキーの発行方法を解説！

LangSmithの公式ページにアクセスし、「Sign up with email」をクリックします。

あわせて読みたい

LangSmith Get your LLM app from prototype to production.

「メールアドレス」と「パスワード」を入力し、「Continue」をクリックします。

登録したメールアドレスに認証メールが届きますので「Confirm your email」をクリックします。

ここまででアカウント作成は完了です。

LangSmithの公式ページにログインし、サイドバーの「歯車アイコン」をクリックします。

あわせて読みたい

LangSmith Get your LLM app from prototype to production.

サイドバーの「API Keys」を開き、「Create API Key」ボタンをクリックします。

「Description」に任意の名前を入力し、「Key Type」を選択し、「Create API Key」をクリックします。

作成したAPIキーは「Copy」ボタンでコピーできます。

APIキーは大切に保管してください。

コンテナにインストールするパッケージは以下のとおりです。

LLMはOllamaのライブラリを使って動かしますので、PyTorchやTransformerは別途インストール不要です。

Ubuntuのコマンドラインで、Dockerfileを作成します。

mkdir langsmith_test
cd langsmith_test
nano Dockerfile

Dockerfileに以下の記述を貼り付けます。

# ベースイメージ(CUDA)の指定
FROM nvidia/cuda:12.1.0-cudnn8-devel-ubuntu22.04

# 必要なパッケージをインストール
RUN apt-get update && apt-get install -y python3-pip python3-venv git nano curl

RUN curl -fsSL https://ollama.com/install.sh | sh

# 作業ディレクトリを設定
WORKDIR /app

# アプリケーションコードをコピー
COPY . /app

# Python仮想環境の作成
RUN python3 -m venv /app/.venv

# 仮想環境をアクティベートするコマンドを.bashrcに追加
RUN echo "source /app/.venv/bin/activate" >> /root/.bashrc

# JupyterLabのインストール
RUN /app/.venv/bin/pip install Jupyter jupyterlab

# LangChain関連のインストール
RUN /app/.venv/bin/pip install ollama langchain langsmith langchain-community langchain_core

# コンテナの起動時にbashを実行
CMD ["/bin/bash"]

[Ctrl + S]キーで変更内容を保存し、[Ctrl + X]キーで編集モードから抜けます。

docker-compose.ymlでDockerコンテナの設定をします。

docker-compose.ymlのYAMLファイルを作成して開きます。

nano docker-compose.yml

以下のコードをコピーして、YAMLファイルに貼り付けます。

services:
  langsmith_test:
    build:
      context: .
      dockerfile: Dockerfile
    image: langsmith_test
    runtime: nvidia
    container_name: langsmith_test
    ports:
      - "8888:8888"
    volumes:
      - .:/app/langsmith_test
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]
    command: >
      bash -c '/usr/local/bin/ollama serve & /app/.venv/bin/jupyter lab --ip="*" --port=8888 --NotebookApp.token="" --NotebookApp.password="" --no-browser --allow-root'

[Ctrl + S]キーで変更内容を保存し、[Ctrl + X]キーで編集モードから抜けます。

Dockerfileからビルドしてコンテナを起動します。   

docker compose up

Dockerの起動後にブラウザの検索窓に”localhost:8888″を入力すると、Jupyter Labをブラウザで表示できます。

localhost:8888

LangSmithのAPIに関する環境変数を設定します。

import os
os.environ["LANGCHAIN_TRACING_V2"] = "true"
os.environ["LANGCHAIN_ENDPOINT"] = "https://api.smith.langchain.com"
os.environ["LANGCHAIN_PROJECT"] = "langsmith-test"
os.environ["LANGCHAIN_API_KEY"] = "***************************"

日本語LLMモデル「Llama-3-ELYZA-JP-8B-q4_k_m.gguf」をダウンロードします。

!curl -L -o Llama-3-ELYZA-JP-8B-q4_k_m.gguf "https://huggingface.co/elyza/Llama-3-ELYZA-JP-8B-GGUF/resolve/main/Llama-3-ELYZA-JP-8B-q4_k_m.gguf?download=true"

Llama-3-ELYZA-JPについては、別記事で詳しく解説しています。

あわせて読みたい

GPT-4超えの日本語LLM「Llama-3-ELYZA-JP」の性能・使い方！ Llama-3-ELYZA-JPは、東大・松尾研発のスタートアップELYZAが公開した日本語LLMです。 Llama-3-ELYZA-JP-70Bは、「GPT-4」や「Claude 3 Sonnet」を上回る性能があります…

LLMの実行にはOllamaのツールを使用します。

LLMのモデルがOllama使えるようにプロンプトテンプレートを指定して、モデルを作成します。

import ollama
from langchain_community.chat_models import ChatOllama

modelfile='''
FROM ./Llama-3-ELYZA-JP-8B-q4_k_m.gguf
TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|>

{{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|>

{{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|>

{{ .Response }}<|eot_id|>"""
PARAMETER stop "<|start_header_id|>"
PARAMETER stop "<|end_header_id|>"
PARAMETER stop "<|eot_id|>"
PARAMETER stop "<|reserved_special_token"
'''

ollama.create(model='elyza8b', modelfile=modelfile)

プロンプト、LLM、出力パーサーを処理するチェーンを構築して実行します。

from langchain_core.prompts import PromptTemplate
from langchain_core.output_parsers import StrOutputParser

llm = ChatOllama(model="elyza8b", temperature=0.7)

prompt = PromptTemplate(
    input_variables=["keyword"],
    template="以下のキーワードに関するFAQを作成してください: {keyword}。具体的な質問とそれに対する簡潔な回答を含めてください。"
)

chain = prompt | llm | StrOutputParser()

result = chain.invoke({"keyword":"RPA"})

print(result)

LangSmithにログインし、トップページから「Projects」を選択します。

あわせて読みたい

LangSmith Get your LLM app from prototype to production.

環境変数で指定したプロジェクト名を選択します。

この記事では、os.environ[“LANGCHAIN_PROJECT”] = “langsmith-test”と指定しました。

各ステップでの実行ログが確認できます。

チェーンの中身の処理も可視化できています！