跳转到主要内容

GPU

GPU,全称为图形处理单元(Graphics Processing Unit),是一种专用于处理图形和图像计算的处理器。起初,GPU主要用于图形渲染,但随着计算需求的增加,尤其是在科学计算、深度学习和其他并行计算领域,GPU的通用计算能力逐渐受到重视。

GPU相对于传统的中央处理单元(CPU)在设计上有一些显著的区别。CPU更适用于处理通用的控制流任务,而GPU则专注于高度并行的数据处理。GPU通常拥有大量的小型处理单元,被设计成能够同时处理大量相似的任务,例如图形渲染中的像素计算或深度学习中的矩阵运算。

总体而言,GPU在图形处理领域的成功应用和对并行计算需求的响应使其逐渐演变成为通用计算设备,广泛用于加速各种科学和工程计算应用。

如何构建自己的深度学习基础设施

editor Chen /

深度学习是一门经验科学,许多基础设施的质量也在倍增。幸运的是,现在的开源生态系统可以使任何人建立不错的深度学习基础设施。

在这篇文章中,我们将讲述深度学习研究通常如何进行,介绍可选的对应基础设施以及开源的kubernetes-ec2-autoscaler,用于Kubernetes的批次优化扩展管理。希望这篇文章对你构建自己的深度学习基础设施有所帮助。

<strong>用例</strong>
深度学习典型的进步是从一个想法开始的,你在一个小问题上进行测试。在这个阶段,你想要快速的进行许多临时实验。理想情况下,你可以通过SSH连上一台机器,然后运行脚本,并在一小时以内得到结果。
要使模型真正工作,通常需要预见所有可能出错的情况,并且设法解决这些限制。(这类似于构建新的软件系统,你多次运行代码来了解它的运行情况。)

<strong>视频</strong>
你需要从多个角度来考察你的模型,以了解它们的实际学习情况。上面这个来自于Dario Amodei的强化学习Agent(控制右边的球拍)取得了高比分,但当你看着它玩时,你会发现它只是呆在一个地方。因此,深度学习基础设施必须能够让用户灵活观察模型,仅仅给出汇总统计是不够的。

理论与现实的差异,多核心芯片软开发瓶颈何在?

editor Chen /

随着手机市场竞争的白热化,手机芯片设计商为了创造出差异性,发布了 8 核心以上的 CPU。让手机芯片的核心数量一举超越主流笔电的 2 或 4 核心。然而,我们是否真的需要如此多的核心?是什么原因让我们无法彻底地发挥 CPU 的真本事?

中央处理器,CPU(Central Processing Unit),做为电脑的大脑,掌管着电脑所有运行的程序。为了让程序可以运行的更快更稳,电脑架构师们不断的思考着该如何设计出更好的 CPU 架构,让使用者得以享受更加快速、便利的电脑。

为了设计出更为出色的 CPU,工程师便想借由不断提高 CPU 的时脉,让 CPU 得以在一秒内执行更多的指令。随着科技的发展,时脉的确如工程师所愿,逐步的提高。从 1990 年代开始,CPU 的时脉从 60MHz,一举提升到 2000 年的 2000MHz。进步幅度之大,令人赞叹。

<strong>发展遇到瓶颈,多核心的时代来临?</strong>

到了千禧年,时脉的进展,却不再如此顺利。当 CPU 时脉发展到 4GHz 左右时,工程师发现,CPU 每秒所制造出的热,已经突破一般家用散热器可以负担的量。为了解决工程上的瓶颈,工程师开始将目光放在多核心架构上。欲借由双核心的技术,突破单芯片效能的瓶颈。

摩尔线程入选全国及北京四大民营企业榜单

winniewei /
9月17日,在“2026北京民营企业100强”发布会上,北京市工商联发布“2026北京民营企业科技创新100强”榜单和“2026北京民营企业未来产业先锋榜”,摩尔线程成功入选。同时,全国工商联近日发布“2026民营企业研发投入500家”和“2026民营企业发明专利500家”榜单,摩尔线程亦荣誉上榜。

破解高性能 GPU 平台适配难题:STONETEK G5208 PCIE5 MAX 赋能 PRO6000 算力释放!

winniewei /
随着大模型训练、推理应用和专业图形计算加速落地,企业对 AI 算力的需求正从单纯追求 GPU 性能,转向对整机带宽、供电、散热、运维与长期稳定性的综合考量。高性能 GPU 的计算潜力,只有在匹配的平台架构下,才能持续、充分地释放。

【原创】当GPU开始堆不动了,墨芯为什么盯上了“稀疏计算”?

winniewei /
过去几年,AI芯片行业有一条非常清晰的竞争逻辑:模型越来越大,参数越来越多,算力需求越来越高,于是芯片也不断增加计算单元、扩大内存带宽、堆叠更多加速卡,再通过更大的集群把计算能力推上去。

【原创】当AI不再只有GPU:中星微技术押注XPU,寻找端侧智能的新解法

winniewei /
AI芯片的故事,过去几年几乎都围绕一个关键词展开:算力。GPU有多少TOPS,显存带宽有多高,支持多少参数规模,能跑多大的模型——这些指标构成了AI基础设施竞争最直观的一面。