【雷锋网】鲲云牛昕宇：一个定制化数据流人工智能芯片凭什么满足众多AI场景需求？

物联网与人工智能的结合带来了一个规模和潜力巨大的市场，因此无论是行业巨头还是创业者纷纷涌入其中。芯片作为人工智能发展的关键，在云端被英特尔、英伟达等巨头占据了绝对优势，留给AI芯片创业者更大的机会在于终端的人工智能，并且有种说法是，前端越智能，人工智能才能产生更强的动能。

鲲云作为众多AI芯片初创企业的一员，在成立之前无论是在专利还是技术上已经有了很深的积累，其中Handle-C是鲲云CEO牛昕宇导师90年代初做的一套开发工具，经过三十多年的迭代和经验积累，最终成为了鲲云的核心竞争优势——全自动化工具链。该工具结合鲲云自主研发的搭载FPGA芯片的雨人板卡，在最大化发挥FPGA性能的前提下，可以针对不同的应用场景需求自动编译深度学习算法到芯片上，不仅实现高性能，还能兼顾通用性，降低开发成本和难度。

不过，鲲云自主研发的打通从顶层应用到底层芯片的深度学习方案真的能够满足多场景的需求，实现让IoT终端都装上智能大脑的愿景?在众多的AI应用场景中，鲲云

为何选择优先为智慧城市和智能制造的IoT设备装上智能大脑?鲲云的直接对手是谁?带着这些疑问，雷锋网近期采访了鲲云科技CEO牛昕宇博士。

2018年4月18日，在深圳举办的《2018全球人工智能应用创新峰会》上，鲲云科技发布了一款AI平台级产品——鲲云AI开发平台。这款以自主研发芯片架构为底层，以开放应用平台为依托，为人工智能的顶层应用开发提供计算资源的人工智能生态平台，可以为物联网应用终端自动生成人工智能算法的DFG、配置人工智能芯片板卡所需的比特流文件。其技术平台将与自动驾驶、城市大脑、医疗影像、智能语音等应用层开放平台形成协同作用，建立研、产、融相结合的一体化人工智能生态平台。

产品及技术

雷锋网：你认为终端侧人工智能对整个AI行业发展的意义是什么?

牛昕宇：终端侧的人工智能对整个行业发展的重要意义可以从短期和长期去看。短期内终端侧对于人工智能的重要意义一个是分流，另一个是隐私。分流方面，比如深圳市现在安装了数百万颗摄像头，这些摄像头绝大部分都是高清的。一般1080p的摄像头一秒钟就要产生5兆左右的数据，一天大概接近400多G，不过这些物联网节点发回来的数据大多没办法直接使用，直接发回的数据并没有用，而是需要分析识别结果，这时候其实不需要把所有的数据都在服务器里处理，而是可以通过前端加后端的方式，后者可以更灵活，更实用，成本也更低。

分流里还有一个更极端的例子，就是一些需要闭环的反馈，比如机器人、自动驾驶的车辆，需要前端马上做出反馈，然后引导设备做下一步的工作。这时候就不能依靠服务器的方式，因为带宽会不稳定、反应的速度也无法保证，自动驾驶依靠云端的人工智能是无法想象的一件事情。

另外一个是隐私，现在很多智能的家电终端都装了摄像头，所有的计算都在服务器里进行。但其实用户对此反应比较敏感，因为这个证明所有的数据都是要上传到云端的，这就产生了隐私安全的顾虑。解决这个问题的一个方法是让前端进行分析，自动判断并执行所需的操作，让数据留在终端。最大限度的做到隐私保护。人工智能只是一个工具，这种工具的作用是让前端设备慢慢变得更加智能，当网络越发达的时候越需要前端有更强的计算能力，对于前端采集的信息进行实时处理并加以利用。有种说法是前端智能越智能，人工智能才能产生更强的动能，这是中长期的一个大趋势。

雷锋网：AI芯片的主流类型，目前来看有GPU、FPGA、ASIC等，你们为什么押注FPGA?

牛昕宇：首先声明一点，我们没有押注FPGA，只是FPGA是ASIC前的一个必要环节，流片之前都会进行FPGA验证，虽然FPGA所用资源较多，不过可以实现跟ASIC一样的功能。至于最终是否流片主要由市场规模来定。无论是FPGA还是ASIC，只是芯片的不同形态，GPU也可以认为是一种ASIC。用FPGA有两个方面的考虑，一个商业考虑，另一个是技术需求。

从商业化上说，不管是做什么类型的芯片公司，公司总归要回到商业的本质。站在客户的角度，他们不关心使用GPU、ASIC，还是FPGA，只关心能不能给他们提供一套方案解决具体问题，需要多少成本。这就意味着不是选择哪种芯片，而是最终支持人工智能算法的解决方案。人工智能算法要能够形成一个方案，帮客户解决具体问题，首先需要解决算力问题，然后把功耗压到足够低，让它能够在前端应用。有自主研发能力的公司大部分能跨过这个门槛，然后就是成本的问题。FPGA可以认为是固化好的一个完整硬件白板，在这上面写电路至少能保证电路没有任何问题，而且它的采购成本是固定的，或者说可以通过谈判降低，而ASIC是随着量的增加成本逐渐降低。所以从商业化上考虑，到达某个量时才可以大规模布局一个ASIC，我们现在觉得可能是100万的出货规模。另外，从流片到大规模流片是两个事情，FPGA方案落地周期可以做到比较短，并且FPGA现阶段是直接提供产品最快速和稳定的方式。在AI大规模的需求还处于萌芽阶段时，我们作为初创公司的策略是通过把芯片做成方案解决客户性能和功能上的问题，同时保持足够的价格优势。

从技术上说，目前主要2个方式，一个是基于指令集(如GPU、TPU)，另一个是数据流。这两个方式各有优劣，基于指令集的方式可能通用性很强，但性能可能没有那么高;基于数据流的方式性能非常强，但通用性可能没有那么强。我们选择数据流引擎的方式既能解决性能问题，还可以把性能推到极致。而我们端到端的开发平台又可以解决通用性的问题。如果我们把深度学习比作造车，可能只是针对劳斯莱斯打造的流水线，但要打造奔驰的时候就需要专业的人员把这个流水线进行对应调整，这个调整过程门槛非常高。这时候我们做的工作也就是我们的第二项核心技术，做一个全自动化的工具链，根据车型的不同，这个工具自动化的把流水线调整好，把门槛降下来的同时把通用性补齐。通过数据流架构加开放平台的方式，既能提高性能又能兼顾通用性。

雷锋网：相比GPU，FPGA一直存在的一个问题是比较难用，一定程度上提高了开发者的门槛，鲲云如何让FPGA发挥出其自身的优势同时来解决FPGA难用的问题的?

牛昕宇：鲲云的人工智能方案是基于FPGA和之后的ASIC来实现的，这是一条完整的产业路径。FPGA和ASIC作为底层硬件，天然具有难用的属性，因为越往底层，对芯片的性能掌握越高，但对开发者需要的专业知识要求就越高，所以面向的用户就越狭窄，感觉就越难用。

所以从1991年开始，陆院士和他的团队开始做定制计算这个方向，在性能提高的同时无疑也抬高了使用门槛。为了解决这一问题，我们花了很大的精力在保证性能的前提下尽量把一层层的优化步骤通过编译器来自动化实现，从最底层直接打通到最顶层，自动完成硬件的调整控制、数据宽度、算法冗余的优化，这时候我们就会发现FPGA使用的门槛从硬件开发人员降低到算法开发人员了，只要给一套深度学习算法到我们的开发平台上，就可以在我们的芯片上实现所需的功能了，这时候它的开发难度就可以降到跟GPU一样。

雷锋网：如何降低开发者的使用成本?

牛昕宇：我们在做平台的时候考虑的第一要素是保证开发者基于我们的产品开发出的方案能比较快速的实现商业落地，鲲云的AI平台主要面向三类用户：

终端用户和专业人员。所谓专业人员不是仅指有计算机背景的人员，而是各个垂直领域内需要AI方案解决实际生产、商业需求的各行各业的人员。他们可以基于我们提供的通用化界面以及各种丰富的接口，能够在不掌握很多专业算法和硬件细节的情况下进行开发，最终形成落地解决方案。

算法开发人员。可以直接把基于Tensonr Flow训练好的算法上传到我们的AI平台，自动映射到硬件中，不需要了解硬件架构就可以使用高性能芯片。

高校研发人员。鲲云AI平台可以为高校研发人员提供一个非常稳定的平台去测试或实现所需的应用，比如优化算法、测试性能等。

应用场景和公司战略

雷锋网：鲲云目前在智慧城市和智能制造布局，主要是考量到这些领域的市场规模比较大?有没有你们内部的一个Top3领域排序?

牛昕宇：人工智能是一个非常宽广的领域，各种各样的应用都可以做，我们选择的智慧城市、智能制造等里面有大量的需求，并且这些需求现在没有得到满足。选择什么领域肯定有一个商业化的考量，我们主要侧重2个问题，一个是体量有多大，市场是不是足够深、足够宽，能够容纳一家公司在里面快速成长;另一个，就是在这个领域是否能提供给客户最需要的价值，这其实是更为核心的一个问题。

这个价值不只是产品本身能够提供的，还包括与市场上已经能提供的方案的价值差。比如说现在大家都做人脸识别方案，我们也有人脸识别方案，但这里能提供价值可能是就会比较小。由于大家都已经做到一定水平，即便性能高40%，功耗低个2-3倍，在用户看来是比较无感的。如果市场上的方案已经解决了80分的需求，你的方案号称能做到85分，那价值也只有5分。大家都盯着标准化、单一化的方案去做会造成人工智能产品的大量同质化。

而芯片本身，行业发展前期很难给一家公司提供商业上的额外价值。芯片是一个需要持续投入的过程，可以在产业的中期和长期里面发挥应有的产品价值，一颗定制化的芯片可以把整个领域的成本拉到很低，可以有性能和功耗方面的优势，长期来看芯片能够帮助树立竞争壁垒，那时候就不是单纯技术层面的竞争了。对鲲云科技而言，我们的优势是从底层硬件到顶层应用全部打通，所以开发一套新的定制化方案的时间成本很低，因此对于看好并进入的市场领域，我们会找到这个市场里面的标杆客户，比如中国商飞(C919)，了解他们的需求并帮他们深度解决各类问题，形成一体化的落地方案，集合到最终的产品中，这样我们的一个小的板卡就可以应用到各种各样不同的领域，客户也可以切实解决实际问题，而我们的方案也具备了大规模推广的基础。

总体而言，在选择领域或场景的时候，我们主要考虑三点：

市场要足够大，至少要有千亿的级别有深耕的价值;

市场足够深，需求不能是单一;

客户的付费意愿很强，有些领域它很深也足够大，但是可能商业化的前景在5年以后，这个不是我们目前考虑的重点领域。

国内目前有非常多的领域满足这3个条件，鲲云在今年将重心放在了智慧城市、智能制造等领域。

雷锋网：你们押的场景，像某些场景的对手已经非常成熟了，比如安防的头部厂商选这些领域进军的时候，你们觉得底气在哪里，优势在哪里?

牛昕宇：我觉得有两点，第一是我刚才提过的很多领域大家做了很多同质化的人工智能应用，我们作为一家人工智能公司有技术实力提供这样的产品，在这些市场需求很强烈的领域，我们会维持产品线，但鲲云在其中的价值是减去现在客户已经在用的产品价值。在产品同质化时渠道的价值和客户关系的价值就会相应升高，这对于初创企业来说不是长久之计。第二点是在公司的成长过程中我们要有耐心，眼光一定要准，看准了需求去跟客户一起成长。这也是我们快速发展的一个前提，就像刚才提到的，一个个方案陪着客户做，利用芯片和平台的优势为客户创造更高的价值。

我们从成立第3个月开始拿出第一代产品，一直都在陪伴客户实现一个个的落地方案，安防、智能家居、智能城市、自动驾驶这些方案的需求很多人都能看到，但是真正跟客户一起去体验场景、积累数据、把应用场景去落地好的过程是很辛苦的，但也是最有核心价值的，我们愿意并希望一直这样做下去。

雷锋网：鲲云的愿景之一是“让每一个物联网终端应用都装上鲲云研发的智能大脑”，单说IOT这个大场景就需要集中国全公司之力才能应对，你们这个愿景是否太大了?

牛昕宇：愿景是公司的一个目标，是我们看到行业的一个趋势后的努力方向，这肯定需要大家一起才能完成，loT是一个非常完整的生态，我们盯准其中的非常小的一部分，就是人工智能，我们比较看好物联网跟人工智能的结合。这是很大的一个市场，并且最具潜力，它现在可能是2B或2G的业务形态，但后面慢慢会变成2C再变成服务的形态，如果把自己局限于某一个部分可能会局限在某个阶段难以持续成长。所以，我们当时定这个愿景是希望能够随着物联网和人工智能的慢慢结合而一起成长。

鲲云的AI业务不仅仅局限于深圳，而是全国?

牛昕宇：肯定是全国布局，而且像你刚才说的单位我们都可以合作，不管什么领域我们只做其中一部分，只提供人工智能的落地解决方案，不碰数据也不碰基础的IoT终端，只给原有的loT终端做增值。我们提供的人工智能方案，是一个可以跟多方群体合作共赢的机制，在市场落地上是大城市先采购，随着物联网和人工智能应用的不断下沉会落地到全国甚至海外的不同城市，我们目前的客户群体也包括了一二三线城市的政府机构和企业单位。

雷锋网：有报道指出您是一个技术和商业兼顾的创业者，您技术跟商业兼顾的思维最初来源于哪里?

牛昕宇：我本身就是从实验室出来的，技术方面不能取代，同时作为一家公司的CEO，要将商业化作为公司的主要出发点，去想如何盈利，如何为客户提供最佳方案并最终商业落地，技术如何配合，而我技术的背景让我们在商业化的过程中能够更好的做到两者之间的结合。并且我们实验室一直就有产业化的传统，有实验室的师兄们去创业，我经常会去跟他们聊，聊完之后会了解到很多，一些公司从外面看着都很光鲜，但真正的难点只有CEO自己清楚。

我记得一个感触很深的事情，一个师兄当时去了一个非常好的市场，云计算或者服务器市场，但这个市场太大，并且需求高度定制化，主要的芯片提供商是英特尔和英伟达，竞争非常激烈，很难做出一些差异化再去成长，这就让新生的创业企业在其中很难成长。

我之前在高校做博士到后来留校，考虑的更多是学术上的成就，想在学术界生长，现在成为CEO，大家聚集到一起，更多的是想要实现个人的一些价值，获得商业和成就感的回报。这些都让我不断的思考创业之后带领这家公司往哪里走，大家聚到一家公司不仅仅是为了技术上的情怀和理想，也是想做一番事业，这番事业最核心的问题就是让市场在商业上认可并给我们提供良好的成长空间。所以我们在创业之初就把技术和商业化这两点作为公司的重要两端来抓，目前来看这个思路是可以带我们走的更远的。

雷锋网：我在网上看，好多说您有发明了专利7项，国际专利1项，可以跟我介绍一下是什么吗?

牛昕宇：你提到的应该是公司的部分专利，目前我们已经累积了核心技术专利数十项，其中公司第一代底层芯片架构和编译器架构是我作为核心人员开发的，目前我们有超过30名研发人员，学术的背景也很浓，会持续不断的进行知识产权的积累。

除了深圳的办公室外，我们在伦敦也有一个研发中心来支持我们的技术迭代和发展，上个月深圳人工智能应用创新研究院揭牌，这些研发成果将持续为我们提供技术支持，所以在核心技术的突破以及专利布局上，公司的步骤还是比较稳的。

雷锋网：国内那些公司你有没有感觉哪一个比较接近，可以作为你们对标对手的?

牛昕宇：我现在不会过多关注竞争对手在做什么，因为这无非两个结果，如果觉得这个人的方向很对，会怀疑自己的方向，如果觉得别人的方向不对，也会让自己自满。这并没有太大的价值，我更关注市场以及市场上大家都在用什么样的方案，以及其中的价值。如果一定要说竞争对手，目前应该是英伟达。

国内这个领域的多数企业还在初创阶段，更多的是在把蛋糕做大的阶段，我们在接触客户的时候，也没有遇到过在某个领域里客户说有其他初创企业也跟他们谈过，更多的是说现在的一些方案用的是英伟达，那用鲲云的产品有什么区别。但英伟达本身不提供方案，只提供板卡平台，我们提供的一体化的解决方案就是我们的价值，或者给客户提供的价值比较明显。

本文转载自：https://mp.weixin.qq.com/s/Fq0fx3eF_kbHCEU-2Ve68g