业内第一例，字节跳动开源系统AI训炼模块

6月28日，字节跳动活火山汉语翻译精英团队公布发布LightSeq训炼加快模块，并向全世界开发人员开源系统。它是业内第一款详细适用Transformer实体模型全步骤加快的训炼模块，更快可加速3倍之上，协助从业人员大幅度提高实体模型生产率。

Transformer是自然语言理解解决、人工智能算法等AI技术领域最常见的基本实体模型，被广泛运用在翻译机器、文字转化成、文字引言、图象处理、时间序列分析预测分析等每日任务中。训炼和推理则是AI技术性的2个关键全过程，等同于学知识和解决困难。

LightSeq训炼实体模型加快实际效果实例

遭受硬件平台限定，一些高等院校试验室和中小型企业没法训炼大中型实体模型，减少批处理命令尺寸等对策又会造成 训炼時间成倍增加。怎样运用比较有限的資源更快训炼出实体模型，变成电子计算机科研工作者和开发人员们广泛关心的难题。

据了解，LightSeq训炼加快模块可以适用Transformer的详细加快，从词嵌入层、编号层、编解码层，到最终的损失函数层，业界初次完成了全步骤适用。并且LightSeq的训炼速率很快，对比流行的编码序列转化成库，LightSeq更快只必须三分之一的時间就能进行训炼。

活火山汉语翻译精英团队责任人详细介绍说，LightSeq训炼加快模块具备作用全方位、简易实用的特性，并给予了丰富多彩的二次开发环境。根据插进自定层或改动好多个命令行参数等方法，客户能够在各种各样时兴训炼库上轻轻松松应用LightSeq。

字节跳动不断资金投入开源项目的基本建设，已开源系统了设备在线学习平台Klever、联邦学习服务平台Fedlearner、性能卓越分布式系统训炼架构BytePS等重磅消息新项目。2019年底，活火山汉语翻译精英团队开源系统了LightSeq逻辑推理加快模块，本次开源系统LightSeq训炼加快模块，彻底连通了Transformer实体模型从训炼到逻辑推理布署的全部步骤。

“开源系统是促进科技创新的关键能量，大家获益于开源系统，更必须为开源项目作出贡献”，以上责任人表明，字节跳动把LightSeq系列产品新项目开源系统，与社会各界共享资源科技成果，期待能协助众多科技人员节约时间成本费，为学术界和工业界激起想像力给予强有力适用。