生成AIをローカルで構築中

使用しているPC環境

OS: Windows 11 Pro
CPU: Intel Core i9-14900F
メモリ: 64GB
ストレージ: SSD 2TB（使用予定容量：100GB未満）
GPU: NVIDIA GeForce RTX 4070 SUPER

準備したソフト・モデル

CUDA Toolkit（GPU処理のため）
Python 3.11.6（LLM対応確認済み）
Gemma-2-2b-jpn-it（生成AIモデル）

VSCodeなどのエディタもあると便利です。

用意したファイル

LLM_download.py（LLMをダウンロードするスクリプト）
AI_process.py（LLMを実行するスクリプト）

導入手順

Step 1: システム環境の確認

メモリ: 32GB以上推奨
GPU: メモリ12GB以上推奨
ストレージ: 50GB以上の空き（モデルサイズによる）

スペックが高いほど処理が快適になります。

Step 2: Pythonのインストールと確認

Python 3.11.6をダウンロード＆インストール
PowerShellでバージョン確認：
```
python --version
```
不要なバージョンはアンインストール可
デフォルトのインストール先： C:\Users\ユーザ名\AppData\Roaming\Microsoft\Windows\Start Menu\Programs\Python

動作確認方法：

C:\test\ に test.py を作成
次のコードを記述：
```
print("Hello World!")
```
PowerShellで実行：
```
cd C:\test
python test.py
```

「Hello World!」と表示されればOKです。

Step 3: LLMのダウンロード

C:\test に LLM_download.py を配置
Hugging Faceでアカウント作成・ログインし、アクセストークンを取得
LLM_download.py にトークンを記述
PowerShellで以下を実行：
```
cd C:\test
python LLM_download.py
```

LLMが正常にダウンロードされていれば成功です。

Step 4: LLMを動かしてみる

AI_process.py を C:\test に配置
質問内容を記述した set_text.txt を同フォルダに作成
PowerShellで以下を実行：
```
cd C:\test
python AI_process.py
```

get_text.txt が生成され、回答が出力されていれば成功です。