【新智元导读】用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。 试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？ 又有多少开发者曾因为频频闪烁的警报「 ...

【导读】用英伟达的GPU，但可以不用CUDA？PyTorch官宣，借助OpenAI开发的Triton语言编写内核来加速LLM推理，可以实现和CUDA类似甚至更佳的性能。 试问，有多少机器学习小白曾被深度学习框架和CUDA的兼容问题所困扰？ 又有多少开发者曾因为频频闪烁的警报「CUDA版本 ...

近日，PyTorch 官方分享了如何实现无 CUDA 计算，对各个内核进行了微基准测试比较，并讨论了未来如何进一步改进 Triton 内核以缩小与 CUDA 的差距。 在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的 GPU 和 CUDA 是常见的做法。在更大的机器学习编程与 ...

·聚焦:人工智能、芯片等行业欢迎各位客官关注、转发前言：谷歌与Meta宣布深化合作，让PyTorch更好地原生支持Google ...

多年以来，英伟达为 GPU 开发的 CUDA 软件工具包始终缺少原生 Python 支持，现如今这种情况终于有所转变。在近期的 GTC 大会上，英伟达宣布其 CUDA 工具包将为 Python 提供原生支持并全面与之集成。也就是说，开发人员能够使用 Python 直接在 GPU 上执行算法式计算。 据悉，2025 年被英伟达视为“CUDA Python ...

作为ASIC架构的代表，谷歌TPU已迭代至第七代Ironwood，FP8精度下峰值算力达4614 TFLOPS，192GB高带宽内存加持下，能效比远超英伟达B200，更支持9216颗芯片组成超大规模集群，总算力堪比24台全球顶级超算。

据内部人士透露，谷歌此次战略调整源于客户对降低硬件迁移成本的强烈需求。尽管TPU在性能上已具备与英伟达GPU竞争的实力，但开发者群体长期依赖的PyTorch框架与谷歌内部主导的Jax框架存在显著差异。这种技术栈的不匹配导致企业采用TPU时需投入大量资源进行代码重构，成为制约TPU普及的主要障碍。

近日，一则有关英伟达试图在其CUDA软件中封杀第三方GPU公司的消息，正引起国内外人工智能及芯片行业的关注。在CUDA 11.6版本开始，安装的时候会在EULA（最终用户许可协议）中看到相关警告条款：“你不能逆向工程、反编译或反汇编使用此SKD生成的任何结果 ...

经过近20年的发展，英伟达已经在全球拥有500多万的CUDA生态开发者，该公司创始人兼CEO 黄仁勋 多次强调CUDA开发者是英伟达最重要的资产和竞争优势。“护城河不是芯片，是数百万开发者写下的代码惯性。”黄仁勋在2025年GTC大会演讲中提到。