我们的博客

从默默无闻中崛起后，在短时间内艾伯德就迅速成为知名的人工智能 (AI) 推理 IP 公司，提供优秀的每瓦和每面积性能。我们的 Origin 产品系列可扩展到 128 TOPS，并满足从边缘到汽车再到数据中心等应用的要求。我们得到了媒体和分析师的高度赞誉，如“艾伯德的架构是非常高效的”，“我们估计艾伯德设计的每瓦 ResNet-50 性能至少为 [ARM] Ethos 的 6 倍。” 我们的产品已被客户投入生产，其基于 CPU 的 GPU 性能提高到了 20 倍，功耗则不到一半，表明与市场领先的 AI 芯片公司相比，我们的 IP 能够提供更出色的 IPS/W。综上所述，今天我们要展示一些……独特的东西。也许会出乎您的意料！ 艾伯德自豪地宣布，我们的全新 TimbreAI™ 产品已准备好投入生产：超节能、超小型 AI IP，支持电池供电可穿戴设备的降噪算法。在这些类型的设备中，系统设计人员不太愿意面临的任务是，要使设计的硬件必须具有持久单次充电电池寿命，但也必须采用降噪 AI 算法。正如业内人士所知，AI 和长电池寿命不一定会共存。部署在这些设备上的降噪算法通常不需要采用处理器密集型方式，并且处理能力仅为智能手机和汽车等设备的一小部分。降噪通常以 GOPS 而不是 TOPS 完成，即每秒数十亿次操作，而不是数万亿次。 由于 GOPS 的要求较低，一些可穿戴硬件制造商已在本地 CPU，而不是专用 NPU（神经处理单元）中部署…
了解更多

在任何一家公司的发展历程中，宣布获得第一位客户都是一个重要的日子。许多公司需要数年的时间才能做到这一点，有些公司从未做到过。对于艾伯德而言，这个日子就是今天。正如您可能已在我们今天的新闻稿中看到的那样，采用艾伯德 Origin™ 人工智能 (AI) 处理 IP 的第一款消费类设备现已上市。 这对我们来说是一个大消息。虽然我们有基于测试芯片和第三方报告的大量数据，详细说明我们解决方案的性能，但更好的证明莫过于世界上最大的消费类设备制造商之一采用我们的产品，并将其作为一项特质集成到设备中。从默默无闻中脱颖而出之后，仅花费不到 11 个月的时间，公司的发展证明了艾伯德解决方案所提供的价值和竞争优势。 客户带着 AI 问题来找我们。在这种情况下，客户对其下一代产品有特定的功耗、性能和面积 (PPA) 目标，但他们当前的解决方案，以及他们研究过的其他解决方案，根本无法满足这些目标。这是常有的事。AI 算法的发展远远超过了摩尔定律，这意味着传统的硅基解决方案根本无法跟上 AI 的先进处理需求。这通常意味着，更能处理当前这代产品的算法的 AI 处理器无法满足下一代的需求。我们的客户就面临这种情况。他们希望在下一代系统中部署一种全新的、功能强大的 4K 视频微光去噪 AI 算法。然而，他们当前的 AI 解决方案根本无法以 PPA 友好的方式处理该算法。事实上，为了获得所需的性能，他们当前解决方案的功耗和面积必须至少到提高 10 倍！ 在与客户的对话中，我们一起探索了他们想要的神经网络和他们的 PPA 目标。坦率地说，他们眼中的限制是我们看到的机遇。 我们之前已经详细介绍了基于数据包的架构（最近在一次网络研讨会上），并展示了我们的高利用率、紧密集成的硬件/软件方法、最小内存占用和灵活构建块设计所带来的累积优势，这些方面结合在一起，提供了业界领先的 PPA。在与客户的密切合作中，在功耗和面积限制方面，我们能够远远超出他们的性能要求。具体而言，客户能够将 AI 推理吞吐量提高至 20 倍，同时将功耗降低 50% 以上，而不增加芯片面积。我们也要清楚的是，当我们谈论将 AI 的功耗减少 50% 以上时，我们不是在每次推理或每帧的基础上进行测量，我们说的是整个引擎。艾伯德的…
了解更多

我对几年前的一个晚上坐在 Yosemite 一个熊熊燃烧的篝火旁的情景记忆犹新。这一记忆非常生动，因为在某个时刻，我从篝火转过头，看着周围的黑暗，却看到一群郊狼的眼睛耐心地从四面八方看着。这段经历让我对基于边缘的监控有了一个相当独特的视角。 毫无疑问，深度学习最引人注目的应用之一是郊狼，我的意思是，计算机视觉。计算机视觉已经变得如此普及，以至于我们在不知不觉中就能体验到它。例如，每次我们拿起一部智能手机，它都会通过面部识别轻松解锁，不再需要输入密码或摸索着使用指纹。事实上，深度学习正在挑战计算机视觉 (CV) 的极限。有了卷积神经网络 (CNN) 等方法，图像分类等以前被认为无法解决的问题现在正以超人的精度得到解决。过去 20 年发明的许多 CV 技术，包括基于特征的传统方法，都因为 DL 而变得无关紧要。DL 和设备功能的进步，包括处理器、内存容量、功耗、图像传感器分辨率和光学，正在边缘实现新的基于计算机视觉的应用。 但在先进技术的前沿，有时会感到孤独。随着产品创作者寻求将视觉能力融入边缘 AI 硬件和软件，他们可以从哪里找到灵感和实用信息来指导他们？ 答案是边缘 AI 和视觉联盟。设计实用计算机视觉解决方案的任何人员都应了解边缘 AI 和视觉联盟，包括芯片、摄像头、算法、工具和编程语言。他们的成员会议和活动，如嵌入式视觉峰会，为希望将 AI 技术有效融入设计的系统设计人员提供了实用知识。 作为联盟的成员，艾伯德获得了许多优势，包括在一个场合与数量最多的潜在 AI 开发合作伙伴和客户建立联系（目前的数量超过 100 个）。此外，艾伯德将于 5 月 17 日至 19 日在 2022 年嵌入式视觉峰会上展出，这里距艾伯德的圣克拉拉总部仅一英里左右。也许最令人兴奋的是，除了成员资格和展会之外，作为会议支持技术路径的一部分，艾伯德还将展示我们的 Origin™ 技术。我们将在接下来的几个月里提供关于这方面的更多信息。 有任何疑问？ 我们很想听到您的消息。在此处给我们留言，我们将会与您联系。

我们最近有机会与 Semiconductor Engineering 的 Brian Bailey 进行了交谈。Brian 参加了由英伟达首席科学家 Bill Dally 在 2021 年 DAC 上发表的关于 GPU、机器学习和 EDA 的主题演讲。Bill 似乎大胆地宣称，GPU 的性能优于市场上所有其他 DLA 解决方案。正如他所解释的，这是因为全新的 GPU 所使用的软件能使模型执行效率高得多，单次操作的能量开销仅为 16%。Bill 认为，如果新的专业深度学习加速器最多能实现的改进仅达到 16% 而不能更低，那么就不值得权衡，因为 GPU 可以提供更大的灵活性。Brian 提出了一个问题：如果这是正确的，那么为什么这个行业会有这么多新的 AI 芯片/IP 初创公司涌入？ 换句话说，该行业为什么还需要另一个深度学习加速器？ 在 Bill 的主题演讲中提出的论点尤其以处理器为中心。用于传统软件程序执行的以处理器为中心的方法不太适合 AI，因为神经网络模型执行需要大量数据移动。例如，正如 Mark Horowitz 在他的演讲《计算的能量问题和我们能做些什么》中指出的那样，32 位 SRAM 读取所需的能量是…
了解更多

大家好，欢迎来到全新的艾伯德博客网站！既然您在读这篇文章，我敢打赌，即使不是很热衷于了解和探索芯片设计深度学习的潜力，您至少也会很好奇。在即将发布的博客中，我们将与您这样的芯片设计师分享我们的经验，以及我们在为半导体行业开发人工智能推理IP的过程中发现的任何架构方面的瑰宝。与任何关系一样，重要的是正确地介绍我们是谁。让我们从艾伯德的历程开始。 艾伯德是一家总部位于加州硅谷的 AI（人工智能）半导体 IP 初创公司。该公司于 2018 年由 Da Chuang、Siyad Ma 和 Sharad Chole 这三名工程师组成的团队建立，他们曾在思科合作，专注于网络应用。 我想，人们普遍会认为，每一家初创企业都从“婴儿”时刻开始。对于艾伯德的创始人而言，这更像是一种烦人的感觉：深度学习很像网络，我们应该能够做得更好！他们三人开始分析现有解决方案中的训练和推理工作负载，并打算应用他们数十年的网络经验。不管他们研究的是哪种方法，最基本的限制因素都是内存和计算之间的带宽限制：无论为 AI 推理系统使用了多少内存或处理能力，带宽限制仍然会使性能受限。此外，现有的 AI 架构（坦率地说，现在仍然）非常低效。由于它们依赖于传统 CPU 设计，因此有效利用率（实际用于处理的时间，而非等待下一个处理周期的时间）极低。利用率低就等于效率极为低下，因为这浪费了大量功耗和处理周期。 他们想到了一个问题：我们如何让所有引擎和资源保持忙碌状态？ 我们能否创建一个 AI 推理处理器，以便用户在可用带宽内优化处理，同时以一种显著提高利用率的方式完成？ 怀着这一使命，艾伯德组建了一个工程师团队，开始了详尽的设计、迭代、设计、迭代（不断重复，任何了解这一过程的人都非常清楚）过程。我们制作了一个台积电 7nm 测试芯片，并于 2021 完成了该芯片的硅特性测试。硅结果验证了我们的设计方法，并表明我们的 Origin™ 架构提供了真正的市场差异化 PPA（功耗、性能、面积）。 2021 年 4 月，我们不再默默研究，在 2021 年 Linley 春季会议上发表了题为“艾伯德：用无与伦比的 IPS/W 构建神经网络引擎”的演讲。自此以后，我们公开详细介绍了 Origin 架构，继续扩大团队规模，并不断改进产品的…
了解更多