一纸引发的光子AI芯片革命剑指摩尔定律

2021-01-05 14:43

光子计算时代到来了吗？几位中美芯片企业家都在试图给出一个肯定的答案。

2020年6月，LightOn发表了一篇关于用光学神经网络训练芯片运行AI模型的新论文；7月，知止科技收到合力资本投资的A系列融资数千万美元；8月，莱特马特在HotChips展示了其光子芯片的架构细节；12月，光子算术宣布其光电混合AI加速计算卡已移交给服务器制造商客户进行测试。

在加速人工智能(AI)的轨道上，一个创新的技术方向——光子计算芯片正在异军突起。这是一群勇敢的开拓者，在期待和争议中前行，努力一步步证明自己判断方向的正确性。

光子AI芯片离产业化还有多远？这条轨道上的创业者能给计算芯片带来新的惊喜吗？

一、一篇顶刊论文引出的新型赛道

随着摩尔定律的滞后，硅光子技术成为超越摩尔定律的研究方向之一。

2017年，埃克塞特大学、牛津大学和明斯特大学的研究人员公布了他们对类脑光驱芯片的研究结果。他们使用特殊的相变材料和光子集成电路模拟人脑神经的突触，使得这种芯片在测试中的数据传输速度达到300Gbps，比当时现有的标准处理器快10-50倍，功耗大大降低。

同年5月，在麻省理工学院10万美元的创业竞赛中，麻省理工学院(MIT)的一个团队用纳米光子芯片完成AI任务，成功获得大奖。

主要创作团队在2017年麻省理工学院10万美元创业竞赛中获奖

一个月后，主要创作团队的研究成果出现在顶级期刊《自然光子学》的封面上。介绍了一种利用光干涉进行神经网络计算的创新方法。当时，国际知名光学科学家、斯坦福大学终身教授大卫米勒(David Miller)评论道：“这一系列研究成果极大地推动了集成光学的发展，在未来取代传统的电子计算芯片。”

这篇光子芯片论文的作者是麻省理工学院的博士后沈浥尘，另一位是尼克哈里斯。很快，这些合著者将成为商业竞争对手，开始自己的创业之旅，获得谷歌、百度等科技巨头的投资。

麻省理工团队论文在《自然光子学》封面

论文链接：http://www.nature.com/articles/nphoton.2017.93

光子是目前最快的粒子。与电子相比，它速度更快，耗电更少。以前，通信传输领域通常采用光学技术，借助更快的速度和更高的光容量实现数据的远程传输，但计算领域的进展缓慢。

事实上，光学计算的研究历史并不短。在国外，20世纪50年代左右，贝尔实验室等机构花费大量精力设计光学计算机组件。在国内，1987年，中国科学院上海光学精细机械研究所王志江院士在《中国科学院院刊》上撰文，提出了一个非常有前瞻性的发展光计算技术的建议。此后，他在光学神经病学逻辑计算方面做了大量工作。

由于光学计算的应用场景不明确，软硬件系统不完善，如何利用光子代替电子芯片进行计算的想法长期停留在研究阶段，很少在实际应用中发挥广泛作用。

直到摩尔定律趋于减速，AI的巨轮才开始起航。

二、光子 AI 芯片的优势：速度快、功耗低、擅长并行计算

，作为支配计算的基准规则，摩尔定律指出微处理器芯片上的晶体管数量每18-24个月翻一番，长期以来一直是电子设备小型化和互联网普及的关键驱动力。

然而，这是芯片制造商和供应商竭力维护摩尔定律的结果。随着物理尺寸极限的临近，散热问题将很快成为不可克服的挑战，许多关键计算密集型应用的发展加快，人们对摩尔定律的未来越来越怀疑，对芯片技术创新的需求越来越大

2016年，《Nature》在《超过摩尔》一文中指出，摩尔定律正在走向日落。接下来，硅晶体技术的发展将不再以摩尔定律为重点，做出更好的芯片再让应用跟进，而是从应用的角度出发，需要什么样的芯片支撑，才能容纳更细微复杂的创新方向。

根据OpenAI发布的分析数据，从2012年开始，AI培训对计算能力的需求每3.43个月翻一番，增速明显快于摩尔定律。

2012年以来，对计算能力的需求增加了30多万倍，如果按照摩尔定律的速度，只会增加12倍(来源：OpenAI)

随着基于神经网络计算的AI应用的普及，一些研究者意识到深度学习可能是等待光学计算几十年的“杀手级应用”。

首先，光速比电子快，理想情况下，光子芯片的计算速度可以比电子芯片快1000倍左右。同时，半导体技术成熟的光子芯片可以达到目前所需的计算能力。

其次，光子计算耗能少。在相同的计算速度下，光子芯片的功耗只有电子芯片的百分之几，可以缓解AI创新所需的数据中心建设对环境的影响。

lightmatt联合创始人兼首席执行官尼克哈里斯(Nick Harris)解释了2020年Hot Chips相比电子计算，光子计算在延迟、带宽和功耗方面的优势

最后，光计算技术具有并行计算的特点。光波的频率、波长、偏振态和相位等信息可以代表不同的数据，光路在交叉传输过程中不会相互干扰。这些特性使得光子擅长并行运算，这与大多数计算过程花费在“矩阵乘法”上的人工神经网络是一致的。

一般来说，光具有计算速度快、功耗低、时延小的特点，不易受温度、电磁场和噪声变化的影响。在人工智能应用领域，将光学技术与电子技术相结合有望提供比传统方法更好的速度和能效。

闻着

三、光子计算走向商业化

AI加速带来的机遇，英法美中一些创业团队扬帆起航，切入云AI计算市场，其中不少创业公司获得了技术巨头和知名投资人的投资。

成立于2013年的英国创业公司Optalysys在2015年打造了一款光学计算原型，实现了320亿次左右的处理速度，能效非常低。去年上半年，Optalysys推出了入门级光协处理器FT: X2000，计划销售给计算机制造、国防、航天等领域的部分合作伙伴和早期客户。

Optalysy入门级光学协处理器FT: X2000

创业公司fathment Computing成立于2014年。其光子原型电脑识别手写数字的准确率在2014年只有30%左右，到2018年已经超过90%。它的创始人纪凡安德烈格说，这是机器学习软件第一次使用激光脉冲电路代替电来进行训练。但是这两年来，这家创业公司似乎没有任何公开的进展。

2018年，总部位于法国巴黎的初创公司LightOn宣布，已开始在欧洲数据中心测试其光学处理单元(OPU)技术。2020年6月，LightOn发表的一篇新论文显示，其光神经网络训练芯片在运行基于MNIST手写数字数据集训练的模型时，学习率为0.01，测试准确率为95.8%；相同算法在GPU上的学习率和准确率分别为0.001和97.6%。并且这种光学芯片的功耗效率比GPU高一个数量级。

论文链接：http://arxiv.org/pdf/2006.01475.pdf

当然，最著名的光子芯片企业家是麻省理工学院的沈浥尘和尼克哈里斯，他们在《自然光子学》发表了封面文章。两人都在2017年成立了光子芯片公司，都选择了马赫-曾德尔干涉仪光开关阵列(MZI)作为基本计算单元，但具体的MZI结构和阵列架构不同。

沈浥尘在美国波士顿成立了Lightelligence，在中国上海成立了喜之岛科技，并发展了跨国和多元化的团队。他目前是世界上薪酬最高的光子计算初创公司。

知止科技创始团队

2018年，知止科技获得百度创投和美国半导体高管财团牵头的1000多万美元种子轮融资；2020年4月，完成由CICC资本经纬中国和CICC硅谷基金牵头的2600万美元A系列融资，百度创投继续追加投资；2020年7月，完成了合力资本投资数千万美元的A系列融资。

2019年4月，西智科技发布了全球首款光子芯片原型板，在运行TensorFlow处理MNIST数据集的测试中实现了100倍以上的速度提升，准确率接近电子芯片(97%以上)，而完成矩阵乘法的时间不到最先进电子芯片的1/100。西智科技计划从2021年开始为AI云计算带来高效的量产产品。

西智科技开发的全球首款光子芯片原型板

由尼克哈里斯(Nick Harris)在波士顿创立的莱特马特公司(Lightmatter)从谷歌风险投资(Google Ventures)、星火资本(Spark Capital)和经纬风险投资(经纬Venture Capital)获得了3300万美元。

莱特马特联合创始人达利斯布南达尔(左)、尼古拉斯哈里斯(中)和托马斯格雷姆(右)

在2020年的Hot Chips大会上，Lightmatter展示了其用于AI推理加速的测试芯片Mars，该芯片利用硅光电和MEMS技术，通过毫瓦激光光源，为矩阵矢量与光相乘提供功率。与传统电子芯片相比，其计算速度提高了几个数量级。

Lightmatter有望在2021年秋季推出该测试芯片的首个商用产品，并为其搭建必要的软件工具链。哈里斯表示，在BERT和Resnet-50推理等工作负载方面，其大规模生产的芯片的能效将比AI芯片的领导者NVIDIA的旗舰芯片A100高20倍，吞吐量高5倍。

光物质测试芯片火星

在阅读了麻省理工团队在《自然光子学》上发表的论文后，正在学习光电子学的中国北京交通大学2014级博士生Ice获得了新的启发。2017年，他与清华、北大等北京八所大学的十多名博士生一起，在北京成立了光子运算团队，开始推动光子AI芯片的商业化。

Ice，光子计数创始人兼CEO

2018年9月，光子计数获得了镇云创业投资、创新天使基金的天使轮融资，2019年获得了水木清华校友基金、共同投资、创新天使基金、镇云创业投资的A轮融资。

目前，在光子算法方面已经开发了FPPGA(现场可编程光子门阵列)，并在此基础上与北京高校搭建了面向服务器的光电混合AI加速计算卡，可以完成机器学习推理、时间序列分析等一些定制的加速任务。

其计算卡已于2020年通过服务器厂商测试。可以做30-40路1080P视频同步处理，运行功耗不到70W。混合精度下峰值计算能力接近20TOPS，光学部分精度低，电气部分精度高。

光子算法光电混合AI加速计算服务器应用测试

诞生于普林斯顿大学的美国光子AI芯片初创公司夜光计算(Luminous Computing)成立相对较晚。

该公司于2018年由首席战略官迈克尔高、首席执行官马库斯戈麦斯和首席技术官米歇尔纳米亚斯共同创立。2019年，它从微软创始人比尔盖茨(Bill Gates)和优步(Uber)首席执行官达拉科斯罗沙希(Dara Khosrowshahi)等知名投资者那里筹集了900万美元的种子轮融资，2020年，它在Helios Capital领导的A系列融资中筹集了900万美元。

普林斯顿博士期间，纳米亚斯的主要研究方向是光子人工智能芯片。与麻省理工学院的团队不同，他们采用了一种叫做广播和重量的方案来代替MZI。与MZI方案相比，它具有更多的光电转换过程，并且对相位不敏感。纳米亚斯表示，其光子集成电路可以替代3000块TPU板，可以节约能源，突破现有AI芯片的数据传输瓶颈。