catazshadow's recent timeline updates
catazshadow

catazshadow

V2EX member #399613, joined on 2019-04-08 17:11:05 +08:00
Today's activity rank 5918
AI 回旋标来了
分享发现  •  catazshadow  •  Jun 12  •  Lastly replied by woshishui2022
12
为什么你该停止使用 Ollama
  •  1   
    Local LLM  •  catazshadow  •  Apr 22  •  Lastly replied by seakingii
    14
    疑似被 ban,求解封
     •  catazshadow  •  May 5  •  Lastly replied by catazshadow
    2
    跪求个邀请码
     •  catazshadow  •  Sep 16, 2025  •  Lastly replied by pcy
    2
    小体积低功耗+ECC 内存的 NAS 有没有解
    NAS  •  catazshadow  •  Mar 31, 2025  •  Lastly replied by JRay
    45
    catazshadow's recent replies
    开 astra ultra 画
    画裸女
    1 day ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 好像一直有 40 多吧,我 kv cache 用的 f16 ,哦,对了这个 vllm 是魔改过的能够在图灵卡上跑 flashinfer 的
    1 day ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @catazshadow 哦还有我用的是 AWQ
    1 day ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 啊这。我因为上下文的关系倒是在用 qwen3.8 。。。

    我 vllm 一直单并发能有 40TPS ,双并发有 80 多。你开 MTP 了吗
    1 day ago
    Replied to a topic by florentino 问与答 我大概理解 AGI 是啥了
    AGI 是 IT 界的核聚变
    2 days ago
    Replied to a topic by tty0 生活 拼多多购物体验真的是很恶心
    为什么要去送手机给并夕夕黑
    4 days ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 啊这😅
    5 days ago
    Replied to a topic by zzutmebwd Local LLM pro6000 部署 Qwen 3.8 flash next nvfp4
    @coefu 这个有多少 prefill ?
    通过说称赞苹果这样正确的废话来标榜自己,是果粉存在的心理机制
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1282 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 18ms · UTC 17:27 · PVG 01:27 · LAX 10:27 · JFK 13:27
    ♥ Do have faith in what you're doing.