Home | Notifications | New Note | Local | Federated | Search | Logout

Note Detail

sou7@sou7@mi.sou7.io (2026-04-02 22:48:27)
うえーん！うちもQwen3.5 122B A10BとかQwen3.5 397B A17Bとかが高速に動くつよつよぱそこん欲しいよ〜！誰か買って〜〜！！
Reply 
---Replies---
sou7@sou7@mi.sou7.io (2026-04-02 22:52:47)
122Bってどうやったら動かせるんだ・・・？
1. CPUで動かすなら、かなり強いCPUに80GB以上のメインメモリ(なおメモリクロックも速くある必要があるのでRyzenの4枚刺しは避けるとかが必要)
2. 内蔵GPUで動かすなら、内蔵GPUがかなり強いAI推論向けのCPUに、128...は厳しそうだし192GBくらいのメインメモリ
3. GPUでやるなら、80GB以上のVRAM
これらのどれかが必要そうかな？いや、家庭で揃えるの厳しくない・・・？