6月28日,腾讯云正式对外发布TI平台公有云版本,并推出全新AI加速功能TI-ACC,其训练加速性能较原生框架提升30%以上,模型推理加速比达2倍以上。该版本也是腾讯首个面向开发者开放的一站式机器学习平台。
腾讯云AI副总经理、AI开发平台资深技术专家李世平表示:“AI应用如今正在各个领域蓬勃发展,AI开发服务平台也已成为各行业AI应用的生产力工具。在此背景下,腾讯云全新推出TI平台的公有云版本,帮助广大开发者简化在工程上的大量研发投入,将精力聚焦在业务本身,从而提高AI应用的开发效率。”
据介绍,此次发布的TI平台公有云版本性能强大、兼容性高、计费灵活、使用门槛低以及管理高效,可以有效帮助企业和开发者提升数据接入、数据处理、模型训练、模型服务等环节的效率,助力AI开发降本增效。
其中,TI-ACC是本次TI平台全新升级发布的重磅功能,也是其强大性能的核心保障。TI-ACC支持大规模的训练和推理加速,帮助企业和开发者解决了在AI加速方面的痛点和需求。
针对训练加速,TI-ACC能在模型精度不下降的前提下,提升模型的产出效率。依托优图实验室在各类复杂模型训练加速的实践经验,TI-ACC实现了对主流的训练框架和分布式训练工具的支持,同时加速效果优异,较原生训练框架提升了30%以上的训练性能。
针对推理加速,TI-ACC能在不影响预测精度的前提下降低GPU资源占用率,其加速效果、使用便捷性较市面开源方案均有明显的优势。在产品能力上,TI-ACC除了可以支持主流的各类模型格式,同时也包含了丰富的推理加速优化手段,相比原始模型,其推理加速比通常达到两倍以上。
以某商品识别行业ISV厂商客户为例,该客户采用了高精度的Detectron2商品识别模型,而随着业务规模扩大,其GPU卡资源投入成本不断提高,降本诉求也愈加强烈。采用TI平台后,客户将TI-ACC加速优化后的模型部署在生产环境,推理性能相比客户baseline 提升了100%左右,服务QPS提升了45%,云资源成本支出也得到了有效降低。
目前,腾讯云TI平台已在泛互、泛政务、医疗、金融、工业、传媒等行业落地应用,帮助实现了智能工业质检、金融AI中台、智慧化城市运营管理、疾病辅助诊断等诸多细分领域AI应用的开发。
作为“下一个十年”的核心科技手段之一,AI正在加速渗透到各行各业,推动其发展与创新。面向未来,腾讯云也将持续精进AI开发平台的产品创新能力,为企业和开发者提供更加丰富的平台化服务,赋能千行百业,引领时代之声。
人工智能信息网 倡导尊重与保护知识产权。如发现本站文章存在版权等问题，烦请30天内提供版权疑问、身份证明、版权证明、联系方式等发邮件至1851688011@qq.com我们将及时沟通与处理。！：首页 > 新闻 » 腾讯云发布TI平台公有云版,新功能TI-ACC助AI推理性能提升100%+