OllamaとDeepSeek R1でローカルLLM

A person holding a cell phone in their hand AI

はじめに

DeepSeek社の大規模言語モデル「DeepSeek R1」が話題ですね。今回は、Windows環境でOllamaをインストールし、このモデルをローカルで試してみました。

実行環境

まず参考に、実行するPCの環境は次のとおりです。

  • OS: Windows 11
  • RAM: 32 GB
  • VRAM: 16GB (NVIDIA GeForce RTX 4080)

Ollamaのインストール手順

Ollamaホームページのスクリーンショット

Ollamaは、ローカル環境で大規模言語モデル(LLM)を簡単に実行できるツールです。

Ollamaのダウンロード

Ollama公式サイトにアクセスし、「Download」 > 「Download for Windows」をクリックしてインストーラーをダウンロードします。

Ollamaをダウンロードするページのスクリーンショット

インストーラーの実行

ダウンロードしたOllamaSetup.exeをダブルクリックして起動し、画面の指示に従ってインストールを進めます。

インストールが完了すると、コマンドラインでollamaコマンドが使えるようになります。

一応、ollama --version を実行しインストールされたことを確認。

> ollama --version
ollama version is 0.5.7-0-ga420a45-dirty
Warning: client version is 0.5.7

バージョンが表示されれば成功です。

DeepSeek R1モデルのダウンロードと実行

次に、Ollamaを使ってDeepSeek R1モデルをダウンロードし、実行します。

今回はパラメータ数14Bのモデルを使いました。

モデルのダウンロードと実行

ollama run deepseek-r1:14b を実行して、deepseek-r1:14b モデルをダウンロードし、実行します。

> ollama run deepseek-r1:14b
pulling manifest
pulling 6e9f90f02bb3... 100% ▕████████████████████████████████████████████████████████▏ 9.0 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████████▏  387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████▏  148 B
pulling 3c24b0c80794... 100% ▕████████████████████████████████████████████████████████▏  488 B
verifying sha256 digest
writing manifest
success

初回実行時にモデルがダウンロードされるので時間がかかります。モデルのサイズは 9GB でした。

チャットの開始

ダウンロードが完了すると、コマンドライン上でDeepSeek R1とのチャットが始まります。「Send a message」と表示されるので、ここに質問や指示を入力してモデルと対話します。

>>> 冬の一句
<think>

</think>

冬の一句。
「雪降る夜」

>>> 日本語で俳句を詠んで

<think>
Alright, the user wants me to compose a haiku in Japanese. First, I need to recall that a haiku follows a 5-7-5 syllable
structure and typically captures a moment from nature.

I should think of a season-related theme—maybe autumn since its rich with imagery like falling leaves.

Let me brainstorm some elements: crimson leaves, wind, shadows, mountains. These all evoke the essence of autumn.

Now, structuring the first line with 5 syllables. "秋の紅葉" gives that and sets the scene.

For the second line, adding movement—like the wind—"舞う風や" which is 7 syllables.

Finally, the last line should tie it all together, maybe something serene like "山間の影," completing the peaceful mountain
setting.

Putting it all together, I get:

秋の紅葉
舞う風や
山間の影

This haiku captures the beauty of autumn leaves dancing in the wind against a backdrop of mountain shadows, embodying the
tranquility and vividness of nature.
</think>

もちろんです!以下は一例です:

**秋の紅葉**
舞う風や
山間の影

この俳句は、秋の紅葉が風に舞い、山々の影が静かに存在する情景を表現しています。

/? でヘルプを表示できます。

>>> /?
Available Commands:
  /set            Set session variables
  /show           Show model information
  /load <model>   Load a session or model
  /save <model>   Save your current session
  /clear          Clear session context
  /bye            Exit
  /?, /help       Help for a command
  /? shortcuts    Help for keyboard shortcuts

/bye で終了。

>>> /bye

ちなみに、実行中のVRAM使用量は12.5GB程度でした。

タスクマネージャでGPUの使用状況を表示したスクリーンショット

日本語対応モデルの導入

deepseek-r1:14b で少しチャットしてみましたが、日本語回答が不安定だったので日本語対応モデルを使ってみました。

サイバーエージェントがDeepSeek R1をベースに日本語で追加学習したモデルを2025年1月27日に公開してくれています。

日本語対応モデルの実行:

PowerShell
ollama run hf.co/bluepen5805/DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf:Q5_K_M

を実行して、日本語対応モデルをダウンロードし、実行します。

> ollama run hf.co/bluepen5805/DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf:Q5_K_M
pulling manifest
pulling b652d2b9ee7c... 100% ▕████████████████████████████████████████████████████████▏  10 GB
pulling 8aa4c0321ccd... 100% ▕████████████████████████████████████████████████████████▏  493 B
pulling c737442a210a... 100% ▕████████████████████████████████████████████████████████▏  170 B
pulling 6e7b0c17f887...   0% ▕                                                        ▏    0 B/ 193 B
verifying sha256 digest
writing manifest
success
>>> 冬の一句
<think>
まず、ユーザーが求めているのは「冬の一句」という俳句だと思います。俳句は五・七・五のリズムで、季節を表すキーワードを使うのが特徴
です。

次に、冬に関連する自然現象を考えます。例えば雪、霜、氷、寒さなどが思い浮かびます。また、冬ならではの情景や動作も検討します。例え
ば、薪割り、湯たんぽ、雪囲いなどがあります。

季語を組み合わせて五・七・五に当てはめる必要があります。季語が重複しないように注意しつつ、自然な表現になるよう調整します。例えば
「寒さき」や「霜」を使うと季節感が出せます。

さらに、情景を描く動詞を選定します。「切る」「囲む」「待つ」などの動詞で動作を表現し、全体のバランスを考えます。俳句は簡潔であり
ながらも画面を広げられるようにするため、余白の美意識も重要です。

最後に、完成した句が自然なリズムかどうか確認します。五・七・五の拍子に合っているかチェックし、季節感と情景の調和を確かめます。
</think>

冬の一句
霜切る声  炉端の薪  雪囲い

(解説:冬の朝、窓際で霜切りをする「声」が炉端の準備に。薪の積み上げと雪割りの情景を対比させ、季節の厳しさと家庭の温かみを暗示)

>>> /bye

日本語で考えてくれています。回答もさっきよりいい感じです。

おわりに

OllamaインストールからDeepSeek R1をローカル実行する手順を紹介しました。

ローカルで完結できる安心感というのは魅力ですね。

ちょっとしたAPI連携を試すときにも使えそうです。

コメント

タイトルとURLをコピーしました