方寸间
频道 中文 @funcunj
➡️频道内容: @WithdewHua 存档及瞎扯 / 博客友链 RSS ➡️我的折腾地:https://10101.io
评分(满分 10) 5.4 评分(满分 10) 5.4 /10 系统评分 · 评分说明
- 订阅者
- 605
- 内容语言
- 中文
- 最近发帖
- 3 天前
资料采集于 2026-11-21 · 非实时
简介
➡️频道内容: @WithdewHua 存档及瞎扯 / 博客友链 RSS ➡️我的折腾地:https://10101.io
查看 Telegram 上的原始简介
➡️频道内容: @WithdewHua 存档及瞎扯 / 博客友链 RSS
➡️我的折腾地:https://10101.io
评分构成
算法 v1 · 评分说明系统基础分 5.4(1 + 维度贡献 4.37) · 最终 5.4
维度 输入 维度值 权重 贡献
内容质量 未经判官审核 (按中性值 0.5 计) · 40% 0.50 40% +1.80
安全风险 未经判官审核 (按中性值 0.5 计) · 30% 0.50 30% +1.35
受众规模 605 订阅者 · 12% 0.30 12% +0.32
近期活跃 最近发帖 3 天前 · 10% 1.00 10% +0.90
Telegram 认证 无认证 · 4% 0.00 4% —
官网互链 无关联工具 · 4% 0.00 4% —
近期动态
在 Telegram 查看全部从硬件加速器的角度看,为什么 Thor T5000 是比 GB10 更好的 AI 推理芯片?
大模型推理的核心计算几乎全是矩阵运算(GEMM / GEMV),尤其是 Attention 和 MoE/FFN。Thor 的这些加速器不是“多了几个核”,而是专门针对“大矩阵 + 频繁数据搬运 + 低精度格式”这条路径做的硬件优化。GB10(sm_121)在这些路径上支持不完整,所以同样代码在 Thor 上能走完全不同的硬件通路
1. tcgen05 UMMA(核心矩阵加速单元)
大模型怎么用到它
● Prefill 阶段:Attention 的 QK^T 和 PV 都是大矩阵乘,K 维度很长。
● Decode 阶段:虽然单步是 GEMV,但 MoE 专家计算、以及多 batch / 多头时仍然会聚合成较大 GEMM。
● 低精度权重(FP4 / FP8 / MXFP4)本身也需要硬件支持才能高效计算。
原理
普通 CUDA Core 做矩阵是“通用指令逐元素算”,寄存器和调度开销很大。tcgen05 是专门的 Tensor Core 指令,一次可以发出很大的矩阵乘加(UMMA),而且是异步的——发射后计算单元自己跑,主线程可以去做别的事。累加结果直接写到 TMEM,而不是塞进有限的寄存器文件。
GB10 上没有完整的 tcgen05 路径(软件层不暴露或降级到旧的 mma…
26 次浏览
很多传统大厂的中间层可能会比较难
朋友圈看到很多腾讯的新闻,要让员工从陆军转海军
其实这件事情认真分析一下,其实是很有道理的
1. AI 之前软件的执行成本比较高,所以说需要从老板、销售、市场、项目经理、产品经理到研发,层层把关。这么多人参与的目的就是希望传递信息的时候尽量不要衰减,高保真的让程序员去实现软件的功能。所以这个时候,牛逼的产品经理和项目经理就非常关键了。因为能理解老板和市场的需求,同时能传好话,其实是非常关键的
2. AI 时代以后,软件的执行成本已经降到了尘埃,软件的营销渠道和软件的需求把控,就会变成更加稀缺的能力。如果还用传统软件公司的组织结构去传递需求的话,就会发现层层传递,最后到 AI 那里就会需求变形。因为 AI 的执行能力很强,但是 AI 也阻止不了你需求是错误的时候给错误的功能。所以传统软件公司,那些不懂技术、不懂需求的产品经理和项目经理,基本上就不太需要了,因为他们在 AI 时代除了传话,也没太多的作用。AI 时代最佳的软件组织结构就是扁平化小团队。阻止 AI 快速发展的,恰恰是大团队的臃肿组织结构
3. 所以说传统大厂的中间管理层,比如项目经理和产品经理,其实应该就会被大量的淘汰。当然不是说不需要产品经理和项目经理,因为程序员先天是深度性人才,对用户的需求沟通和对市场的敏感度还是差很多,程序员先天擅长把事情做的性能很强。架构升级很合理,但是大多…
24 次浏览
AI 御三家架构能力对比
1. Claude 最强的是,它能知道你需求背后的真实深层目标是什么,它可以以高于你需求的目标,给你一个更好的方案。在本来就是架构师的时候,Claude 增强的有限,但是对于新手来说特别友好,因为新手就缺少架构能力。所以说这就是社区为什么都喜欢 Claude 的 one shot 的原因
2. Gemini 是一个非常开阔、敢于冒险的 AI 模型。我这段时间做性能优化,它基本上就会以非常激进的方式,把所有的情况都尝试一遍,从底层到上层。这样激进的方式有个特别大的好处,就是它可以发现很多人类认知以外的一些组合的可能性。搭配高手非常好,因为高手本身有很强的架构能力,但是高手的精力有限,不可能尝试所有的方案。Gemini 是一个非常灵活,愿意尝试新鲜方向的模型。所以说我最近特别喜欢这个模型,虽然 Agy 用户体验很拉,但是不能影响对 Gemini 的高度评价。我下面的截图就是 Gemini 的回复
3. GPT,曾经最强的 AI 模型,我从去年到 10 月份一直用 GPT 写代码,主要有两个原因,第一,Claude 经常被封号,累了,第二, GPT 这种非常严谨的思路,其实特别适合我,因为架构能力很强的人,其实不太需要 AI,但是需要 AI 去做很多测试用例。所以说 GPT 写的代码是非常严谨的,这个从商业的质量来说是非常好的,即使它很慢,但是是非常严谨。但是…
24 次浏览
AI模型御三家能力实测
1. Claude 最猛,但是 Dairo 不让用,国人很不爽
2. Gemini 4 Carbon, 超级强,又快又好,三家中逆向倾向最牛逼的, 动不动就直接反汇编,感觉内置REA一样
3. GPT, 现在开 fast 模式都非常非常的慢,正常干活要急死人,适合项目后期做功能迭代,因为这家伙补的测试用例真的很全啊, 测试用例是功能代码的100倍 🤡
via https://manateelazycat.github.io/feed.xml
19 次浏览
试了五款车载手机支架后,我选了这款
连续买了 5 个手机的支架。都不行,今天这个终于满意
1. 不要买那种带胶水底座吸盘的手机支架,吸力不行。吸盘只有像 Ins 360 官方的 500 元的电动吸盘才靠谱,但是那种电动吸盘一般都很大
2. 也不要买那种背后螺丝太紧的手机支架,默认就太紧了,会产生巨大的压力,让屏幕变黄,长期会让车机的屏幕损坏
3. 要买像我今天这种挂在屏幕的手机支架,第一不会异响,第二,它的受力在于边缘,而不在于屏幕的内角,所以说不会让屏幕因为压力而损坏
这个手机支架还不错,还带了磁吸和无线快充,背后还有一个风扇,这个风扇很重要,在户外越野的时候,因为太阳直射很大,如果没有风扇的话,就会因为温度过高而关机
via https://manateelazycat.github.io/feed.xml
Invalid media: image
18 次浏览