「长上下文」通往AGI的关键模型能力。http://www.hibor.com.cn【慧博投研资讯】我们认为,大语言模型的长文本能力可能是通往AGI的必要条件之一。http://www.hibor.com.cn(慧博投研资讯)首先,更长的上下文长度可以(i)提升大模型提示工程的潜力、(ii)增强文本的生成能力、(iii)丰富大模型的个性化使用体验。其次,长上下文更多地挑战了模型厂商的工程能力。鉴于自注意力机制固有的“二次代价”以及对长序列中间段信息处理的不稳定性,如何在保持长文本生成效果的同时,平衡对计算力和存储的额外压力,成为了模型厂商需要仔细权衡的难题。针对上述挑战,业界目前已探索出诸如Flash Attention、Temp lora、Sliding Window等主流技术解决方案。当前长文本能力的竞争已进入到白热化阶段,100k以上的上下文窗口已经成为通用大模型的标配,有望推进下游应用场景落地,同时激发HBM、网络通信等硬件需求,对大模型的商业化落地、乃至AGI终极目标具有正面的意义。
投资建议:算力是AI大模型产业化落地的必备环节,建议关注AI服务器相关厂商以及国产AI芯片厂商:海光信息、协创数据、神州数码、浪潮信息、中科曙光、优刻得等。AI大模型赋能下游应用,C端标准化工具类产品有望率先享受产业红利,建议关注金山办公、科大讯飞、万兴科技、美图公司、同花顺、福昕软件、合合信息(IPO)等。教育垂直领域可能成为落地的先行领域,建议关注佳发教育、鸿合科技等。模型迭代进一步强化对真实世界的理解,自动驾驶、智慧城市等领域有望进一步带动,建议关注德赛西威、均胜电子、海康威视、大华股份、萤石网络等。AI硬件创新潮可期,关注边缘端硬件公司传音控股、漫步者、石头科技等,以及和芯片厂商合作紧密的赋能型公司如虹软科技、中科创达等。工业智能化是AI落地长期可期待领域,关注中控技术、宝信软件、北路智控、柏楚电子等。
风险提示:AI技术迭代不及预期的风险,商业化落地不及预期的风险,政策支持不及预期风险,全球宏观经济风险。