AI 基础设施

三年回顾:在时间压缩中寻找AI的硬核机会

AI的真正影响不是取代人类,而是戏剧化地压缩了所有事情的时间尺度——公司成长、融资阶段、模型迭代、安全攻防,全都加速。看懂这个底层逻辑,才能理解为什么广告模式死而复生、本地模型开始逆袭、传统ERP终于能被破防。不聊宏大叙事,全是新市场与硬碰硬的计算。

阅读详情三年回顾:在时间压缩中寻找AI的硬核机会

PyTorch 性能分析:一篇文章看穿 Attention 的六种实现

用 Profiling 工具揭开 PyTorch Attention 的神秘面纱:从手写 naive 实现到 SDPA 四大后端,作者揭示了 maskedfill 省下的一次 Memcpy、math 后端为何比手写慢 3.7x、以及 flash 低占用率其实是故意设计。看完就能自己读 kernel 名和 GPU 占用率,也知道了什么场景该选哪个 Attention 后端。

阅读详情PyTorch 性能分析:一篇文章看穿 Attention 的六种实现