Listen

Description

🎧 過熱するローカルLLM界隈!約100万円のAI専用機「HP ZGX Nano」購入の真相から、Macでの爆速推論環境「vllm-mlx」運用まで徹底トーク!

✅ 100万円超えの買い物!「HP ZGX Nano G1n AI Station」購入と凄まじい価格高騰

✅ DGX Sparkは2台持ちが常識?「GLM-5.3-Flash EXL3」最適化競争の最前線

✅ 27Bモデルがわずか5.9GBで動く!驚異の超高圧縮「Bonsai 2 27B」

✅ Ollamaから乗り換えて正解!Macで動かす「vllm-mlx」の爆速レスポンスと自動化

ローカルLLMの沼にハマったエンジニアのリアルな実体験と最新マシン事情をお届けします。ぜひ最後までお楽しみください!

▼ 話題になったリンク ▼

• HP ZGX Nano G1n AI Station: https://jp.ext.hp.com/workstations/zgx_nano_ai_station/

• HP ZGX Nano G1n AI Station (Web Archive): https://web.archive.org/web/20260610160229/https://jp.ext.hp.com/workstations/zgx_nano_ai_station/

• MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks: https://github.com/MiaAI-Lab/GLM-5.3-Flash-EXL3-2x-DGX-Sparks

• PrismML — Introducing Bonsai 2 27B: https://prismml.com/news/bonsai-2-27b

• waybarrios/vllm-mlx: https://github.com/waybarrios/vllm-mlx

#ローカルLLM #DGXSpark #HP #MLX #AI #ガジェット #エンジニア