無料ソフト「Strata」で、1250億パラメータの大きなAIを家のゲーム用PCだけで動かしてみました。AIの本体47GBはグラボ（16GB）に入りきらないのに、お詫びメールは3秒ちょっとで完成。同じPCで前に測った140億のAIより速く書けました。
家のPCで動くAIに、何をさせたいですか？一言でも大歓迎です。コメントで教えてください！
家のPCで動くAIに、何をさせたいですか？一言でも大歓迎です。コメントで教えてください！
▼使ったもの
・AI：Qwen3.8-Flash-Next 125B（IQ3_XXS）
・ソフト：Strata（無料・オープンソース、MITライセンス）
・PC：グラボ Radeon RX 7800 XT（16GB）、メモリ 64GB
※AIの本体だけで約47GB、保存には約80GBの空きが必要でした
▼Strataのすごいところ
・AIの中の“専門家”のうち、よく使うもの（3,450個）だけをグラボに置き、残りはメモリから呼ぶ。グラボで当たるのは約8割
・同じPCで、8月に測った140億のAI（Ollama）＝1秒に28トークン → Strataの1250億＝約49トークン（測った日もソフトも違うので目安）
・AMDのグラボでも、追加のインストールなしで動いた
（数字は Strata のモニター画面より）
▼家のPCで動くと
・文章をインターネットに送らない
・使い放題で、月額0円
・ネットが止まっても使える
※最新のクラウドのAIと同じ賢…
著者について
