生成AIをローカルで構築する勉強中…

環境構築した環境

• OS: Windows 11 Pro
• CPU: Intel Core i9-14900F
• メモリ: 64GB
• ストレージ: SSD 2TB (使用枠: 100GB未満を想定)
• GPU: NVIDIA GeForce RTX 4070 SUPER

ダウンロードしたもの

• CUDA Toolkit (GPUで処理するため)
• Python 3.11.6 (LLMが実行可能なバージョンを確認)
• Gemma-2-2b-jpn-it (生成AIモデル LLM)

追加で、VSCodeなどのツールを用意しておくと便利です。

手順

Step 1: 環境の確認とLLMの取得

• メモリ: 可能なら32GB以上
• GPU: 12GB以上推奨
• ディスク: 50GB以上 (モデルやデータによる)

性能が良ければ良いほどスムーズに動作します。

Step 2: LLMのダウンロードと設定

1. LLMをHugging Faceからダウンロード
2. 使用するためのトークンをHugging Faceで取得

Step 3: Pythonのダウンロードとセッティング

1. 適切なPythonバージョンを確認してダウンロード
2. PowerShellでバージョン確認:

   python --version

3. インストールされたバージョンが想定外の場合はアンインストール可能
4. インストール先: C:\Users\ユーザ名\AppData\Roaming\Microsoft\Windows\Start Menu\Programs\Python

動作確認

以下の手順でPythonの動作確認を行います。

1. デスクトップに test.py ファイルを作成
2. ファイルに以下を記述:

   print("Hello World !")

3. PowerShellで実行:

   cd C:\Users\ユーザ名\Desktop\
   python test.py

成功すると「Hello World !」が表示されます。