AI新范式必将出现

June 15, 2024 (7mo ago)

导读:

每5-10年人工智能学界就会出现一个全新的范式(本文由人工智能生成并人工校验核对)

在近日的一次访谈中,我们有幸采访到了一位大咖,他是安克创新的CEO Steven杨,这位曾经在谷歌从事搜索算法研发的专家,现如今领导着一家百亿营收的大厂,主要生产消费类电子产品如充电宝和扫地机器人。然而,在这次访谈中,我们探讨的却是人工智能、芯片等硬科技领域的话题。以下是访谈的精华总结

人工智能的发展历程

在访谈的开头,Steven回顾了人工智能的发展历程。从最早的专家系统,到决策树,再到支持向量机(SVM),每5-10年都会有一个新的范式出现,推动人工智能的进步。而近年来,深度学习和Transformer模型的出现,则标志着人工智能进入了一个新的阶段。

分治法与冯诺依曼架构

Steven指出,过去70年,人工智能主要依赖于分治法和冯诺依曼架构。分治法通过将大问题分解成若干小问题来解决,而冯诺依曼架构则是将数据和程序存储在内存中,计算时将其加载到处理器中。这种架构在处理分治法产生的程序时非常有效。

大模型与GPU的结合

然而,随着Transformer等大模型的出现,传统的冯诺依曼架构逐渐显现出其局限性。大模型通常包含数百亿个参数,这些参数需要频繁地在内存和计算单元之间搬运,导致大量的功耗和效率低下。Steven提到,英伟达的GPU在推动大模型的发展中起到了关键作用,但其架构仍然存在瓶颈。

存算一体的未来

Steven提出,未来的人工智能芯片将会是存算一体的架构,即存储和计算在同一个单元中进行。这种架构不仅能够大幅减少数据搬运的功耗,还能够实现实时的模型更新和动态训练。他认为,未来的芯片将会像人脑一样,既存储知识又进行计算,这将会催生出全新的算法,超越当前的Transformer模型。

仿生计算的趋势

Steven强调,仿生计算是未来人工智能发展的一个重要方向。人脑的神经元既存储信息又进行计算,且能在推理过程中不断训练和更新自己。未来的人工智能芯片也将朝着这个方向发展,实现存算训一体化。

结语

通过这次访谈,我们不仅了解了人工智能的发展历程和当前的技术瓶颈,还看到了未来的发展方向。存算一体的芯片和新的算法将会带来一场新的革命,推动人工智能迈向新的高度。相信这次访谈的内容会对大家有所启发,也期待未来我们能看到更多的技术突破。

See you next year for the 2024 blog refresh 🫡