生成AI

ASUS Ascent GX10

Qwen3-Next-80B実行時のASUS Ascent GX10システム不安定化問題

概要ASUS Ascent GX10(NVIDIA GB10搭載)環境において、Qwen3-Next-80Bモデルをpwilkinフォーク版llama.cppで実行した際、システムが意図しない再起動を繰り返す問題が発生した。本記事では発生し...
生成AI関連

Claude Desktop AppでMCPサーバー(ローカルファイルアクセス)を設定する方法

概要Claude Desktop AppでMCP(Model Context Protocol)を使用してローカルファイルシステムにアクセスする設定方法を解説します。この設定により、Claudeがローカルのプロジェクトファイルを参照してプロ...
Python

PythonでAI画像拡大環境を再構築する:GitHub手順とバージョン調整の記録

環境を再構築する試みる中で、いくつかの問題に直面しました。特に、ライブラリのバージョン間の依存関係が非常に複雑で、思い通りにいかないことが多々ありました。今回は、Real-ESRGANを使った画像拡大環境を、Real-ESRGAN開発者が推...
生成AI関連

AIが理解し易いコードにまとめるRepomix

コード整理ツールで生成AIの理解度を向上させる複数のプログラムファイルを1つにまとめることで、生成AIがコードを理解しやすくなります。Repomixはそんな悩みを解決するライブラリです。今回は、Windows 11環境でのRepomix導入...
生成AI関連

WindowsでGemmaモデルを4bit量子化して動かす!導入手順(CUDA環境構築から)

大規模言語モデル Gemma を、お手持ちの Windows PC で 4bit 量子化して効率的に動作させるための導入手順をまとめました。CUDA 環境の構築から、Python 仮想環境のセットアップ、必要なライブラリのインストールまで、...
生成AI関連

Forgeクラッシュ問題

CPUもGPUも余裕があるのに何枚も生成しているうちにクラッシュする問題の対処。生成するたびに必ずクラッシュする訳ではないので原因特定が困難。症状的にはWindowsで立ち上げてるアプリが固まり、マウスカーソルのスピードが目に見えて遅くなり...
生成AI関連

Windows の突然死と StabilityMatrix のインストールエラー

突然の死と再インストールWindowsのグラボを酷使すると突然死する事象が2日ほど前から発生して色々とやってるうちに完全にWindowsがお亡くなりになりました。どうにもならんのでWindowsをクリーンインストールすることにした。再インス...
生成AI関連

GPTQを利用するための環境構築

バージョンが違うとインストールすら失敗して面倒なことになるので、実際に稼働したものを入れていきます。動作した環境に適用したもの一覧Visual Studio Community 2022CUDA v124Python 3.10.6PyTor...
生成AI関連

Pythonで生成AIのモデル利用時にGPUを指定する

🔳事前準備まずは、CUDA Toolkitをインストールします。CUDA Toolkit🔳確認PyTorchのバージョンとの兼ね合いにより、CUDA Toolkitをインストールしただけでは動作しないことがあります。以下の関数を実行して、G...
生成AI関連

Meditron-7B 医療特価型LLMを導入する

事前準備モデルのダウンロードにはいくつかのライブラリが必要です。TensorFlowとPyTorchをインストールしていない場合は、以下のコマンドでインストールします。# TensorFlowのインストール pip install tens...