生成AIをローカルで構築する勉強中…

環境構築した環境

OS: Windows 11 Pro
CPU: Intel Core i9-14900F
メモリ: 64GB
ストレージ: SSD 2TB (使用枠: 100GB未満を想定)
GPU: NVIDIA GeForce RTX 4070 SUPER

ダウンロードしたもの

CUDA Toolkit (GPUで処理するため)
Python 3.11.6 (LLMが実行可能なバージョンを確認)
Gemma-2-2b-jpn-it (生成AIモデル LLM)

追加で、VSCodeなどのツールを用意しておくと便利です。

用意したもの

LLM_download.py (LLMをダウンロードする)
AI_process.py (LLMを実行する)

手順

Step 1: 環境の確認

メモリ: 可能なら32GB以上
GPU: 12GB以上推奨
ディスク: 50GB以上 (モデルやデータによる)

性能が良ければ良いほどスムーズに動作します。

Step 2: Pythonのダウンロードとセッティング

適切なPythonバージョンを確認してダウンロード
PowerShellでバージョン確認:
```
python --version
```
インストールされたバージョンが想定外の場合はアンインストール可能
インストール先: C:\Users\ユーザ名\AppData\Roaming\Microsoft\Windows\Start Menu\Programs\Python

動作確認

以下の手順でPythonの動作確認を行います。

C:\test\に test.py ファイルを作成
ファイルに以下を記述:
```
print("Hello World !")
```
PowerShellで実行:
```
cd C:\test\
python test.py
```

成功すると「Hello World !」が表示されます。

Step 3: LLMの取得と環境設定

作業フォルダの用意(C:\testにLLM_download.pyを置く)
使用するためのトークンをHugging Faceで取得　（Hugging Faceにログインする必要）
LLM_download.pyを編集で開いてトークンをセット
PowerShellで実行:
```
cd C:\test\
 python LLM_download.py
```

C:\test\にLLMがダウンロードされていればOK！

Step 4: LLMを動かしてみる

作業フォルダにAI_process.pyを置く
作業フォルダにset_text.txtを作成して中に質問したいことを書く/li>
PowerShellで実行:
```
cd C:\test\
 python AI_process.py
```

C:\test\にfet_text.txtが作成されて質問の回答が書いていればOK！