原始标题:要像人类一样聪明,人工智能必须首先突破计算能力的极限。
高级人工智能所需的计算能力将每三个半月翻一番。
算法、数据和计算能力被认为是推动人工智能发展的三大因素,计算能力被描述为支持人工智能应用的“引擎”。人工智能研究机构OpenAI最近指出,“高级人工智能所需的计算能力每三个半月翻一番”。
近日,脸书人工智能副总裁杰罗姆·佩森蒂(Jerome Pesenti)在接受《连线》杂志采访时表示,人工智能研究成本的持续上升,或者说我们在这一领域的研究失败,现在已经到了需要考虑成本效益等的地步。我们需要知道如何从现有的计算能力中获得最大的利益。
那么,为什么人工智能需要如此强大的计算能力?计算能力限制了人工智能的发展吗?我们能持续满足人工智能不断扩展的计算需求吗?
人工智能“动脑” 背后算力消耗惊人
”2016年3月,当谷歌的人工智能阿尔法围棋(AlphaGo)击败韩国棋手李世石时,人们哀叹人工智能的威力,而其背后的巨大“努力”却鲜为人知,大约有3335.4万台服务器、数千个中央处理器、高性能显卡以及下棋所消耗的惊人电量王源智库人工智能部主任、图灵机器人首席战略官谭明洲在接受《科学技术日报》记者采访时说。与云计算和大数据等应用相比,人工智能对计算能力的需求几乎是无穷无尽的中国工程院院士、浪潮集团首席科学家王恩东指出。
据介绍,人工智能最大的挑战之一是识别率和准确率低。为了提高模型的准确性,需要提高模型的规模和精细度,增加离线训练的频率,这就需要更强的计算能力。还计算了精确度。例如,大型互联网公司或著名的人工智能初创公司有能力部署大型人工智能计算平台。该算法模型已达到数千亿个参数和训练数据集的规模。目前人工智能中使用的大多数深入学习框架依赖大数据进行科学研究和培训,以形成有效的模型,这需要很高的计算能力谭明洲指出,随着人工智能算法模型的复杂性和精度不断提高,互联网和物联网产生的数据呈现几何倍数增长。在数据量和算法模型的双层叠加下,人工智能需要越来越多的计算。毫无疑问,人工智能正在向深度学习方向发展,计算能力已经成为评估人工智能研究成本的重要指标。可以说,计算能力就是生产力。
数据搬运频繁 “内存墙”问题凸显
计算储存一体化 或成下一代系统入口
显然,频繁的数据传输导致的计算瓶颈已经成为探索更高级算法的限制因素。计算能力的瓶颈将对更先进、更复杂的人工智能模型的研究产生更大的影响。
王恩东曾经指出:“计算能力的提高对架构提出了挑战。随着半导体技术逐渐接近极限,d
谭明洲说,目前人工智能有更多无用的计算。目前,人工智能仍处于数据输入和参数调整阶段,如连续灌溉。这是一种“黑盒”模式,消耗大量的能量,特别是在图片和视频方面,但是真正有效的计算不是很多,这非常浪费能量。未来,人工智能需要在“可解释性”方面有所突破,找出导致以下结果的原因,以便能够准确地使用数据和计算力,并大大减少计算量。这也是目前一个重要的研究课题,将极大地促进深入学习的发展。
延伸阅读
“虽然计算能力并不限制现阶段人工智能的发展,但计算能力确实提高了参与人工智能研究的门槛。”谭明洲指出。
除了研发资金的增长,在计算能力爆发之前的很长一段时间里,随着互联网的发展,数据生成的场景渗透到生活和生产的每个角落,随着通信技术的进步,特别是5G的商业使用,数据生成的基本场景的覆盖面和深度达到了一个新的水平,数据的生产也将达到一个新的数量级。
2020年初,阿里达摩研究所发布了一份《2020十大科技趋势》报告,显示在人工智能中,计算和存储的整合类似于人脑。集成数据存储单元和计算单元可以显著减少数据处理,并大大提高计算并行性和能效。
然而,计算和存储集成的研究不可能一夜之间完成。这份报告提出了一项战略。对于用于计算和存储的通用集成计算架构的开发,最近策略的关键在于通过芯片设计、集成和封装技术来缩短存储单元和计算单元之间的距离,增加带宽,降低数据传输成本,并缓解由数据传输引起的瓶颈。中期计划是以建筑革新为基础的。它可以通过将内存放在计算单元中或者将计算单元放在存储模块中来实现“你有我”和“我有你”的计算和存储。长期的前景是通过设备级创新,实现设备不仅是存储单元,也是计算单元。它并不相互分割,而是集成到一个真正的计算和存储集成中。近年来,一些新的非易失性存储器,例如电阻式随机存取存储器,已经显示出计算存储收敛的一些潜力。
据报道,计算和存储的整合正在帮助算法升级,成为下一代人工智能系统的入口。内存计算提供的大规模和更高效的计算能力使人工智能算法设计具有更丰富的想象力,不再受计算能力的限制。因此,硬件的进步将升级到系统和算法的领先优势,新的业务最终将以更快的速度孵化出来。
除了计算和存储一体化的趋势之外,量子计算是解决人工智能所需要的巨大计算能力的另一种方式。目前,量子计算机的发展已经超越了传统计算机的摩尔定律。以传统计算机的计算能力为基本参考,量子计算机的计算能力发展迅速。
谭明洲表示,除了技术本身不断升级之外,未来人工智能的突破还需要世界各国协同创新、整合开发和探索新的合作模式,如采用共享思维、调动世界各方面的计算资源,集中精力降低巨大的计算成本。根据
人工智能计算力展现五大发展趋势
010-59000
互联网数据中心(IDC)和浪潮联合发布的《2019—2020中国人工智能计算力发展评估报告》,全球新创建的数据量将从2018年的33ZB增加到2025年的175ZB。随着数据的不断爆炸式增长和算法的不断进化,未来的计算能力仍有很大的空间。
该报告公布的中国人工智能计算城市最新排名显示,排名前五的城市是北京、杭州、深圳、上海和广州。排名第6-10的城市是合肥、苏州、重庆、南京和Xi。
该报告还提出了