Listen

Description

Google Gemma 帳號展示 Cloud Run 部署 DiffusionGemma-Jev,免備 GPU 即可測試 Jev API 相容端點。

貼文稱,單步延遲約 35–60 毫秒,batch@32 吞吐量為每秒 100–123 個請求;服務運作時每小時約 3 美元,閒置時費用降至 0。部署程式與說明見 djev-run。

部署設定 djev-run 的 README 記載,此服務使用 NVIDIA RTX PRO 6000 Blackwell GPU,Cloud Run 設定為 concurrency=32、max-instances=1、min-instances=0。貼文提到可用單一指令啟動端點,但來源未提供該指令的實際字串,因此不列出可複製的命令。

測量口徑 README 在 steps=1、samples=1 條件下,列出伺服器端中位數 61 毫秒、端到端中位數 117 毫秒;samples=auto 時為 121 毫秒。它另列出 concurrency=32 時每秒約 100–123 個請求。這些測量條件與貼文所稱的 35–60 毫秒單步延遲並不完全一致,兩者不應視為同一口徑的數值。

影片展示 影片呈現 djev Snake 遊戲介面,包含分數、步數與延遲指示、各方向的移動機率,以及以 JSON 顯示的 system call。抽樣影格中,58 秒顯示 Score 26、Step 272;59 秒顯示 Score 26、Step 276。兩個相鄰時間點的步數不同,不能據此判定碰撞發生時間。這是操作介面示範,不是獨立效能測試;不同硬體、輸入負載與 Cloud Run 設定下的成本及延遲,來源未提供比較結果。

djev / snake 遊戲運作介面與即時走步機率分析面板

原文:https://easyvibecoding.app/curated/3383-google-gemma-cloud-run-diffusiongemma-jev-api-testing