安霸半导体： GenAI’s Move to the Edge

冯羽涛先生，拥有近30年半导体芯片行业经验的资深专家，自2007年加入安霸以来，一直致力于将公司的解决方案应用于AI视觉领域，推动AIoT、机器人、自动驾驶等多个领域的发展。他的演讲从定义GenAI和AGI的术语开始，强调了当前最先进、效果最好的AI技术是基于Transformer的大语言模型，这些模型本质上是通过自回归机制预测下一个Token的过程训练出来的。这种训练方式和架构设计的结合，促使大语言模型在自然语言处理领域取得了显著的成功，并推动了AI技术的快速发展，然而也带来一些根本性的局限。

冯羽涛回顾了AI领域的重要里程碑，包括AlexNet在2012年ImageNet竞赛中的成功标志着深度学习在计算机视觉领域的一个重要里程碑，推动了CNN（深度卷积神经网络）研究和应用的快速发展。2016年的AlphaGo标志着DeepMind在解决最具挑战性的策略性游戏方面取得了重大突破，并把这样的AI技术应用到解决科学难题领域，因揭秘蛋白质结构而获得2024年诺贝尔化学奖。Transformer在2017年由谷歌提出，很快由OpenAI采用Transformer开发出了ChatGPT系列， ChatGPT-3.5于2022年发布后迅速获得了广泛关注和使用，推动了对大型语言模型的研究和应用的发展。冯羽涛强调，这些技术突破不仅推动了AI技术的发展，也改变了人类对AI潜力的认知。
尽管大模型在AI领域取得了巨大突破，但仍然存在一些显著的局限性，不容忽视。这些完全用文本数据训练出来的语言模型，缺乏对物理世界的深入理解，且推理能力有限，存在一些偏见及不准确性。那么，当前基于大型语言模型（LLM）的方法是否能够实现AGI？
冯羽涛认为， AI的发展不应仅仅局限于云端的大型计算集群，而应更多地关注边缘和设备端的AI计算。他强调，边缘AI需要适应人类生活环境和基础设施，作为工具延伸人类能力，并在设备端进行个性化训练，使设备能够根据用户需求“成长”得更智能。未来的研究可以结合LLM与边缘AI的优势，探索更全面的智能系统，以实现更接近AGI的目标。
冯羽涛还提到，人类智能（HI）与人工智能（AI）之间存在显著差异。HI受限于生物神经网络的局限，而AI则具有无限的潜力，能够形成大规模并行计算服务器，具有更高的数据带宽和更快的复制能力。他预测，AI最终将成为人类生活的一部分，这一趋势不可阻挡。
值得一提的是，冯羽涛还讨论了AI技术对社会的深远影响，包括就业、教育和伦理问题。他强调，随着AI技术的发展，社会需要对AI的潜在影响进行深入思考，并制定相应的政策和规范。
在演讲的最后部分，冯羽涛强调了边缘AI对硬件的需求，包括低功耗、低延迟、数据隐私保护、计算能力和本地存储能力。他介绍了安霸应用于边缘AI和设备端的解决方案，包括一系列低功耗、高性能的SoC和软件SDK等核心产品，以及多款Edge AI Box。

冯羽涛的分享提供了关于GenAI和边缘计算的深刻洞见，强调了在AI技术快速发展的今天，我们需要重新思考AI的发展方向，并探索更适合人类需求和环境的AI解决方案，推动更具包容性和可持续性的AI技术进步。他的演讲不仅为行业提供了宝贵的见解，也为未来的技术发展指明了方向。随着AI技术的不断进步，我们期待看到一个更加智能、高效和人性化的未来。