2023年からAIで色々やり始めて早2年。
これだけ長い期間趣味的にAIに触れ合うとは思わなかった。
個人用のLLM開発を日々続けている訳ですが、如何せん個人PCとしては最強クラスに近いRyzen9 9950x3dとRTX4090の組み合わせでも性能面で壁にぶつかる。
なんといってもVRAM容量問題。24GBはゲーム用途であれば十分すぎるほどなのだけれど、LLMを動かそうと思うと足りない。
そこで最新のRTX5090を物色し始めたのですが、それでも32GBで今のものより8GBほどしか増えないのでそのために40万払うのは微妙。
もうね。サーバ向けのボードに手を出してやろうかと調べ始めたわけ。最新のBlackwell adあたりRTX 6000 adを買うたるか。
そんな風に思い始めたんですよ。96G搭載のサーバ用途向けのボード。お値段150万円。
安い軽自動車変えるがなとか思いつつね。来年あたり予算をとって行っちゃう？逝っちゃうかな？とか思って悩んでたんですよ。
そしたらスマホのニュースに個人向けのミニスパコンの記事が上がってきてですね。
ほえーそんなものが出たんだー。なんて思って読んでたんですよ。10月末あたりから発売したらしい。
メモリはLPDDR5X 128GBと一世代前だけど。128GBって。今の5倍のエネルギーゲインじゃないか！こりゃ親父もハマる訳だ．．．。
とか思いつつ、どうせお高いんでしょう。200万くらいかな。
と、調べてみたら58.5万円。マジ安っす！糞安っす！RTX4090のメモリ性能と比べてたら劣るものの128G積んでたら大抵のLLMが動くやん。
なんて記事を3日前に読みましてね。ポチー！ですわ。はい。ポチー！
10月に2万で買ったPC用DDR5の64GBが今や8万ですよ。この10末に発売されたミニスパコンも恐らく今のロットが切れたら次のロットから倍とかの値段になりそう。
そう思ったら夜しか寝れなくなって目が覚めた瞬間にポチーですわ。
はい。そんな訳で届きました。俺のGX10ちゃん！
とりあえず開封の儀だけした。
ツヤッツヤで神々しい。金属ケースでかっちょいいです。
到着までに色々調べてたんだけど。電源はプラグ指すと起動するらしく、有線でネットつないだりする場合は事前に刺しておく必要があるみたい。
導入時だけは設定やなんやかんやでキーボードとマウスが無いとネット越しとか面倒なので事前に繋げておきたいところ。
というのも設置場所に悩んでいて開封だけしてまだ電源未投入。
とりあえず、初期セットアップが済んだらDDNSで外部から接続可能にして、会社の端末からつなげて色々と出来るようにする。
この辺の設定メモは後で残すとして。いやぁーこんなん稼働し始めたら最高だろ。
初期不良とか事件が起きませんように。ということで本日はAIおじさん2025は師走に個人用ミニスパコンをついカッとなって購入した話。
コメント