投稿 评论 顶部
 手机版 | QQ登录 | 登陆 | 注册 | 留言 | 设首页 | 加收藏

阿里达摩院提出“AI双脑思考”方式 推理速度可提升3倍

文章转自:站长之家,如有侵权联系删除 互联网快讯

DoNews6月19日消息(记者 翟继茹)19日,阿里巴巴称,有7篇论文入选人工智能国际会议ICML 2020论文收录结果。据了解,ICML是全球机器学习顶级学术会议之一,接受率为21.8%。

据ICML官网显示,阿里7篇论文涵盖图像识别、自然语言处理、搜索推荐等领域。在《Boosting Deep Neural Network Efficiency with Dual-Module Inference》中,提出了一种全新的AI推理方法,可减少AI对计算和内存资源的消耗,能将推理速度提升3倍。

阿里巴巴达摩院介绍,其设计了一种 “AI双脑思考”的方法,能让大型神经网络像人类一样学会“快思考”与“慢思考”,从而进行高效且准确的推理过程。这一思考方法被称为“双模推理”,即将一个复杂任务拆分成两个任务,例如在复杂AI推理任务过程中,可以先以很小的资源运行“小网络”,同时分析哪些网络的区域较为敏感,然后只对敏感区域在“大网络”中运行计算。

实际效果显示,该方法能在保证模型精度的基础上,在语言模型上减小40%的访存,达到1.54倍-1.75倍的性能提升,同时可以在仅损耗0.5%精度基础上,提升3倍的推理速度。(完)