阿泰热谈科技的文章

新文章：DeepSeek V4.1 Flash 工程实践（三）模型能看图、也能生成文字，不代表视觉链路已经正确。一次 resize 的离散差异、2D RoPE 排列或 aligner 网格补零错误，都可能留下“形状正确、语义错误”的张量。这篇记录 zLLM 如何以官方实现为 oracle，逐段对拍中间张量，把图像接入八卡语言主干，并

2026-09-16 08:11

新文章：DeepSeek V4.1 Flash 工程实践（三）模型能看图、也能生成文字，不代表视觉链路已经正确。一次 resize 的离散差异、2D RoPE 排列或 aligner 网格补零错误，都可能留下“形状正确、语义错误”的张量。这篇记录 zLLM 如何以官方实现为 oracle，逐段对拍中间张量，把图像接入八卡语言主干，并

新文章：DeepSeek V4.1 Flash 工程实践（二）把 40 层模型分给 8 张 AMD GPU，只是开始。真正难的是让 32×32 BlockFP8、跨层共享压缩 KV、稀疏 selection 与 mHC pre-mix 在设备边界上保持连续。这篇沿着 zLLM 的真实修复路径，讲清从官方 safetensors 到八卡文本生成链路，也说明当前 ROCm 单级 T

2026-09-15 17:20

新文章：DeepSeek V4.1 Flash 工程实践（二）把 40 层模型分给 8 张 AMD GPU，只是开始。真正难的是让 32×32 BlockFP8、跨层共享压缩 KV、稀疏 selection 与 mHC pre-mix 在设备边界上保持连续。这篇沿着 zLLM 的真实修复路径，讲清从官方 safetensors 到八卡文本生成链路，也说明当前 ROCm 单级 T

新博客｜DeepSeek V4.1 Flash 的 Engram：让知识不必每次重新算一张约 183 GiB（仅代码数据、未含 scale）的 Engram 大表，为什么不直接放显存？ zLLM 的答案：大表与 WKV 投影留在主机侧，八张 W7900D 跑主干；再用 mmap 预热、AVX-512 BF16 批处理、NUMA 放置、pinned staging 和 CPU/GPU 重叠，

2026-09-15 07:28

新博客｜DeepSeek V4.1 Flash 的 Engram：让知识不必每次重新算一张约 183 GiB（仅代码数据、未含 scale）的 Engram 大表，为什么不直接放显存？ zLLM 的答案：大表与 WKV 投影留在主机侧，八张 W7900D 跑主干；再用 mmap 预热、AVX-512 BF16 批处理、NUMA 放置、pinned staging 和 CPU/GPU 重叠，

回望云南高山峡谷间的穿山壮举，从水下到螺旋从深埋到入滇，由衷致敬筑路先锋，她演讲的真心话太好了，给她点个大大的赞！另外各位有缘人，请问您及您的相关负责人，怎么投资加盟您们，又或者您及各位看官有缘人，也有其他项目介绍的，那么，请问是啥项目？让咱们从此不打工，只做股东！请您们16：00至

2026-09-09 07:05

回望云南高山峡谷间的穿山壮举，从水下到螺旋从深埋到入滇，由衷致敬筑路先锋，她演讲的真心话太好了，给她点个大大的赞！另外各位有缘人，请问您及您的相关负责人，怎么投资加盟您们，又或者您及各位看官有缘人，也有其他项目介绍的，那么，请问是啥项目？让咱们从此不打工，只做股东！请您们16：00至

#A股又走出10倍大牛股#这是开始准备收割散户了，谁买谁就是傻得尔

2026-09-05 23:58

#A股又走出10倍大牛股#这是开始准备收割散户了，谁买谁就是傻得尔

只输入一句话，Claude Code / Codex 为什么可能显示十几万甚至几十万 input token？因为 Agent 发给模型的从来不只是输入框里的话，还包括系统指令、工具 Schema、项目规则、对话历史和工具结果。cache hit 也不是“缓存答案”，而是严格复用相同 token 前缀执行后的模型状态。这篇文章结合 zLLM

2026-08-31 04:44

只输入一句话，Claude Code / Codex 为什么可能显示十几万甚至几十万 input token？因为 Agent 发给模型的从来不只是输入框里的话，还包括系统指令、工具 Schema、项目规则、对话历史和工具结果。cache hit 也不是“缓存答案”，而是严格复用相同 token 前缀执行后的模型状态。这篇文章结合 zLLM

#韦礼安[超话]# 臺北音樂博覽會(索尼音樂展區)之韋禮安🦭 這張好像是沒看過的公式照下面文字有預告今年會出新EP！好期待《Love Wei Back Vol.3》🤗

2026-08-30 15:11

#韦礼安[超话]# 臺北音樂博覽會(索尼音樂展區)之韋禮安🦭 這張好像是沒看過的公式照下面文字有預告今年會出新EP！好期待《Love Wei Back Vol.3》🤗

重大消息：zLLM 正式开源！首个公开版本采用 Apache 2.0，公开完整 Rust 原生推理技术栈：跨平台模型与 Runtime 核心，以及 CPU、Apple Metal、NVIDIA CUDA、AMD ROCm/HIP、Vulkan、华为 AscendC 的真实实现路径。统计基于 main行有效源码，其中 165,066 行 Rus

2026-08-31 00:02

重大消息：zLLM 正式开源！首个公开版本采用 Apache 2.0，公开完整 Rust 原生推理技术栈：跨平台模型与 Runtime 核心，以及 CPU、Apple Metal、NVIDIA CUDA、AMD ROCm/HIP、Vulkan、华为 AscendC 的真实实现路径。统计基于 main行有效源码，其中 165,066 行 Rus

Hugging Face的机器人大卖，现在每人一部手机，有没有可能以后每人一台机器人。

2026-08-30 15:11

Hugging Face的机器人大卖，现在每人一部手机，有没有可能以后每人一台机器人。

不装 Python、PyTorch、Conda、Docker，也不启动常驻模型服务：一个 8.1 MB 的 Rust 原生程序，在 24GB MacBook Air M5 上就能跑 Gemma 4 E4B，多轮聊天、图片理解都走 Metal。实测：49,152 token 上下文，文本 tg50 均值 40.47 token/s；图文请求 TTFT 7.312 秒。 “零依赖”指运行时不依赖第三方

2026-08-30 15:11

不装 Python、PyTorch、Conda、Docker，也不启动常驻模型服务：一个 8.1 MB 的 Rust 原生程序，在 24GB MacBook Air M5 上就能跑 Gemma 4 E4B，多轮聊天、图片理解都走 Metal。实测：49,152 token 上下文，文本 tg50 均值 40.47 token/s；图文请求 TTFT 7.312 秒。 “零依赖”指运行时不依赖第三方