旗下微信矩阵:

ZDnet:AI新贵Gyrfalcon(GTI)打造多款机器学习芯片

制造AI定制芯片——这个酝酿了三十年的想法,在硅谷初创企业Gyrfalcon Technology Inc.(GTI)的手中变成现实。GTI获得了三星等大客户的青睐,正在迅速打造属于自己的多款芯片产品。
2018-11-29 17:50 · 投资界综合     
   

本文译自ZDnet作者Tiernan Ray文章《AI Startup Gyrfalcon spins plethora of chips for machine learning》

原文链接:https://www.zdnet.com/google-amp/article/ai-startup-gyrfalcon-spins-plethora-of-chips-for-machine-learning/?from=singlemessage&isappinstalled=0

翻译:一村资本

制造AI定制芯片——这个酝酿了三十年的想法,在硅谷初创企业Gyrfalcon Technology Inc.(GTI)的手中变成现实。GTI获得了三星等大客户的青睐,正在迅速打造属于自己的多款芯片产品。

30年前,加州大学伯克利分校的博士生杨林想研发出一种特制芯片,能够加快人工智能(AI)的运算速度。

这个念头开启了他长达三十多年的研究生涯。

当年一些具有洞察力的想法如今变成了现实,与此同时,杨博士作为首席科学家创立的初创公司GTI野心勃勃,不断发展,专注于打造与众不同的AI芯片,以期在竞争日益激烈的芯片市场独占鳌头。

2017年初建立的GTI总部位于苗必达市,处于硅谷的边缘地带。GTI正在一步步实现杨博士在30年前的绝妙想法:同步运算矩阵乘法的相同电路矩阵,从而加快神经网络的基本运算。

“我们是*一家将矩阵乘法作为基本运算元素后取得实质性进展的公司。”接受ZDNet专访的GTI总裁Franck Lin(林建国)如是说。

林建国清楚地认识到众多初创企业都拥有新型AI半导体设计,比如ZDNet近日报道的Cornami、Flex Logix与Efinix等产品。

“有些芯片制造商正在思考matrix或tensor的新型架构。”林建国说,而GTI在一月份推出了*款硅芯片产品。“谈到真正的芯片,我觉得我们是市场上*一家真正的硅芯制造商。”

三星电子、LG电子、富士通等一些大体量客户确信,GTI会提供他们需要的产品。

“刚开始我们只有七个人。”GTI营销总监Marc Naddell补充道。“想象一下,一小撮人在创业最开始的八个月里致力于一款芯片的研发。”Naddell与林建国均强调,Gyrfalcon是三星的*AI芯片合作伙伴。

“我们的*款芯片大获成功,因此像我们这样历史短、规模小的公司能够赢得三星等大品牌的青睐。”他说道。

GTI产品致胜的关键在于其具备*的能效,在性能方面胜过英特尔传统中央处理器(CPU)与Nvidia图形处理器(GPU)。“我们就是对抗歌利亚的大卫。”林建国说。

备注:大卫与巨人哥利亚的决斗是一个著名的西方典故,意为以弱胜强。《圣经》中记载,歌利亚是非利士将军,带兵进攻以色列军队,后被牧童大卫打败。大卫日后统一以色列,成为著名的大卫王。

GTI的产品正在向品牌化方向发展时,“Lightspeeur”以“2801”芯片为起点,在今年国际消费类电子产品展览会(Consumer Electronics Show 简称 CES)上亮相。“Lightspeeur”是一种用于“推理(inference)”的零件,而“推理”是机器学习的组成部分,神经网络利用训练阶段习得的信息为新出现的问题提供解决方案。该零件适用于“边缘”设备,如智能手机、智能扬声器或笔记本电脑。

GTI指出,一种称为“存储计算一体化”(APiM)的方法,让所有相同的运算单元与存储融为一体,可大大降低外存储器的利用率,从而大幅降低AI芯片的功率预算。

“2801”的运算速度可达到每秒9.3万亿次,仅耗能1瓦特,且每一次都是乘法累加运算。如今,这样“万亿次/每秒”(TOPS)的计算单位是AI芯片能耗常见的表示方法。

它“比英特尔Movidius产品的能效高90%”,林建国在谈到英特尔收购同名公司Movidius时获得的推理芯片时如是说。

继“2801”后出现的“2803”于上月面世,旨在处理云服务器更加繁重的推理负载。其性能更佳,能效更好,耗能1瓦特时,计算速度高达24 TOPS。GTI表示,“2803”不仅适用于推理,还可用于训练,利用一种技术优化“马尔科夫链蒙特卡洛”(Markov Chain Monte Carlo)网络,替代更为常见的随机梯度下降(Stochastic gradient descent,SGD)。

“2801”与“2803”都可以在电路板上联结,并且通过外部设备高速扩展总线(PCI-E)作为插件同时运行。两者均拥有嵌入式存储器,“2801”可存储9兆字节。紧邻所有运算单位的存储器,使芯片能够承担几乎所有的推理工作,无需芯片外设DRAM。GTI将其称为“存储计算一体化”或“APiM”。

“我可以一次性地将网络模型、权重与激活单元预加载到这款芯片上。”林建国说,“无需求助外部系统;这样做能够明显降低能耗,大幅提升芯片的性能。”

本月,GTI透露了下一产品的部分信息。该产品主要用于“物联网Lot”领域,直到下个月才会正式发布。这个最新产品名为“2802”,提供了另一项有趣的技术:非易失性存储器(Non-volatile memory, NVM)。

“2802”以“磁性”随机存储器(MRAM)替代了“2801”与“2803”运用的静态随机存取存储器(SRAM)。与NAND快闪存储器相似,MRAM在能量耗尽时不会丢失数据。这意味着一套神经网络可由客户进行预加载,甚至可以在“2802”出厂前由原厂预加载。

GTI在乘法累加运算(Multiply Accumulate, MAC)的同一套模具上制造MRAM,该方法是GTI正在申请的五十个专利之一。快速搜索美国专利局的申请数据库和授予专利,可迅速了解 GTI技术的具体情况。1992年,伯克利分校凭借杨博士及其导师Leon Chua的芯片发明获得了一项专利。碰巧的是,Chua在该领域的大量研究可应用于多项领域,包括Chua在1998年出版的专著《细胞神经网络:复杂性的典范》(CNN:A Paradigm for Complexity)

当然,困难之处在于软件。与CPU和GPU不同,GTI的专用集成电路(ASIC)难以获得编程栈。

对比:GTI的Lightspeeur与英特尔和Nvidia芯片在AI处理上的差别

因此,刚刚发布了一个开发者软件开发工具包(SDK),为产品打造应用程序。该开发工具可在两个硬件配件上进行测试,即USB加密锁“PLAI Plug”与独立设备“PLAI WiFi”,后者可作为手机的无线加速工具。

GTI按照杨博士在伯克利制定的路线不断发展,已经迈出了似乎有风险的一步:正在卷积神经网络(CNN)上铺设自己的电路。虽然那时杨博士使用的是“细胞神经网络”(“cellular neural networks, CNN”,Gyrfalcon依然在专利申请文件中使用该术语)这样的模型,但其具有*性的研究工作围绕卷积运算展开。

当然,卷积神经网络在近几年来成为了最重要的神经网络设计之一,但这一做法让芯片不太适用于其他类型的网络,如“长短期记忆”网络。

不过,林建国并未对理论上的局限性忧心忡忡。

“CNN是所有其他AI的基础。”他说。“对此,我们做了研究,发现ResNet和MobileNet在CNN市场中依然占主导地位。” 林建国说,其他初创公司正在试图进军每一种网络,“他们试图覆盖所有现存及未来的神经网络,但我还没有发现任何一家公司能够成功地兼顾全面性与能效性。”

如果新型网络出现,占据了大部分的市场份额,“那我们就会针对它推出另外一款芯片。”他说。

一个很有意思的想法是,(如果)按照生产曲线看一看GTI在发展时发生了什么,是什么使其电路更加高效。GTI的初代产品由台湾半导体制造商28纳米制造工艺完成,与英特尔和Nvidia的尖端产品相比,该工艺运用的节点更为陈旧。

“我们正在用28纳米的工艺击败正在使用7纳米或12纳米的同行,比如Nvidia。”林建国说。“我们是如同以卵击石的反叛者,但我们赢了!”

Marc Naddell,这位GTI的营销总监补充道:“当我们采用12纳米或7纳米的工艺时,其他公司将会做什么呢?”

GTI的另一条发展途径就是将自主研发的芯片授权给其他AI芯片制造商。林建国目前的工作重心并没有放在这上面,但他看到许多潜力。“Graphcore等其他初创公司做的东西与我们极其相似,但如果他们想做大,就必须找我们。”

根据最新数据,Graphcore筹措到的金额超过1亿美元。资金支持对芯片初创企业至关重要,因为一家公司从设计到芯片的初步“流片”,再到开发和维护客户基础,平均需要投入数亿美元。

GTI没有向记者透露公司筹集到的资金数额,但他们表示,他们已经“从美国、日本、韩国、中国的机构与企业投资者手中获得三轮融资”,并补充道:“就目前的员工配置与支出率来说,筹措的资金可供公司运营至少三年时间。

译者注:

2017年4月,一村资本母公司华西股份(000936)向GTI出资449万美元,持股比例为8.98%。

【本文经授权发布,不代表投资界立场。本平台仅提供信息存储服务。】如有任何疑问题,请联系(editor@zero2ipo.com.cn)投资界处理。