Promotion news, Technology news
87%的客户在与AI聊天时仍希望能联系真人:哪种GPU云基础设施能帮助越南企业构建可靠的AI智能体/聊天机器人?
越南正迎来一波企业投资AI聊天机器人和”AI智能体”(AI Agent)用于客户服务的热潮,涉及银行、零售、电商等多个行业。然而一个矛盾正在显现:越来越多企业部署对话式AI,却有越来越多客户转身离开。问题并非客户厌恶AI本身,而是聊天机器人背后的基础设施和实施方式尚未真正到位。
87%的客户仍希望能联系到真人
根据Gartner在2026年2月至3月对3,566名客户进行的调查,只有27%的受访者表示在经历糟糕体验后会再次尝试使用聊天机器人;49%表示如果提供聊天机器人会使用,但实际上在最近一次服务互动中使用过聊天机器人的只有7%。到2026年8月,另一项Gartner调查显示,87%的客户认为,企业即使在客服中使用AI,也应该提供联系真人客服的途径。
越南本土市场也反映出相同的趋势。据VnBusiness报道,不少客户因聊天机器人整天只给出重复、无用的回复而无法解决实际问题,或者在需要退货时找不到联系真人客服的方式,最终取消订单或转向其他品牌。RMIT越南的一位专家指出,不稳定的AI系统、前后不一致的回答,以及缺乏明确依据的推荐,会迅速削弱客户的信任。
为何AI聊天机器人正在”流失”客户而非留住客户?
这些失败大多并非源于AI技术本身,而是源于其背后的基础设施。基于检索增强生成(RAG, Retrieval-Augmented Generation)方式构建的聊天机器人,需要准确检索数据,以足够快的速度完成推理(inference)以避免客户等待过久,并且在AI无法解决问题时能够顺畅地将对话升级(escalation)转交给人工客服。如果底层GPU基础设施不够强大,或未针对实时推理进行优化,聊天机器人就会变得响应缓慢、回答前后不一致——这正是2026年全球AI语音助手浪潮在语音渠道上同样面临的薄弱环节。
Gartner:到2028年前,超过40%的智能体AI项目将被搁置
除客户服务领域外,Gartner还预测在2028年到来之前,超过40%的智能体(Agentic)AI项目将被放弃,主要原因是成本不断攀升以及商业价值不明确。Gartner高级总监分析师Anushree Verma表示,目前大多数项目仍停留在被炒作驱动的实验阶段,缺乏实质性的投资回报率(ROI)。Gartner还估计,在数千家自称提供”智能体AI”的供应商中,只有约130家是真正具备相关能力的,其余大多只是将现有聊天机器人重新包装,这种做法被称为”智能体包装”(agent washing)。尽管如此,长期趋势依然清晰:Gartner预测到2028年,15%的日常工作决策将由AI智能体自主完成(较2024年的0%上升),33%的企业软件将集成智能体AI(较2024年不足1%上升)。
“代币制造”时代:为何推理(inference)基础设施才是真正的挑战
据eWeek报道,在GTC 2026大会上,NVIDIA首席执行官Jensen Huang强调,AI产业正从训练(training)转向持续推理(inference),他将此称为”代币制造系统”(token manufacturing system)。NVIDIA预计,仅Blackwell和Rubin两大芯片系列的销售额到2027年就可能超过1万亿美元,其中很大一部分需求来自企业持续运行AI智能体。这意味着,要让聊天机器人或AI智能体稳定运行、回答一致且错误率低,企业需要针对大规模推理进行优化的GPU基础设施——不仅仅是”拥有GPU”,而是拥有具备足够显存(VRAM)、灵活性和可靠性的GPU。
哪种GPU云基础设施能帮助越南企业避开聊天机器人失败的陷阱?
Viettel Cloud GPU正是为解决这一问题而设计的。凭借主力产品NVIDIA L40S(48GB)和H200(141GB),企业拥有足够的显存,可以在RAG管道中同时运行嵌入模型(用于数据检索)和大语言模型(LLM),即使在高峰时段查询量激增时也不会出现瓶颈——这正是VnBusiness调查中指出的,许多越南聊天机器人所陷入的失败点。该平台预装了NVIDIA Driver和CUDA Toolkit,并完整支持TensorFlow、PyTorch等AI-ML框架,使企业能够基于自有的越南语数据对模型进行微调,而不必完全依赖第三方API,从而获得更一致、更贴合业务场景的回答。
vGPU功能让企业能够根据实时负载灵活拆分或整合GPU资源,这在AI无法处理某项请求、需要快速扩展并转接至其他支持渠道时非常有用——直接满足了87%客户所要求的”能联系到真人”的需求。整套基础设施运行在符合ANSI/TIA-942-B Rated 3标准及ISO 27001/27017认证的数据中心之上,使包含敏感信息的客户对话数据能够在越南境内存储和处理,满足数据主权要求,这是建立信任的关键因素,与GPU云基础设施已被用于满足银行业防深度伪造eKYC新标准的方式十分类似。
企业选择AI智能体/聊天机器人GPU云基础设施的快速清单
- 足够的显存,可同时运行嵌入模型与LLM而不出现瓶颈(优先选择L40S/H200)
- 支持vGPU,可根据实际负载灵活扩展资源,避免高峰时段响应变慢
- 预装主流AI-ML框架,支持基于自有越南语数据进行微调
- 基础设施通过国际安全认证(ISO 27001/27017),保护客户对话数据
- 提供长期签约前的概念验证(POC)试用方案,降低Gartner警示的智能体AI项目ROI风险
企业还可参考T4、A30、L40S、H200 GPU云系列的详细对比,根据实际规模和运营预算选择合适的配置,避免在扩展AI智能体时出现投资过度或容量不足的问题。
参考文献
- Gartner(经The Star报道) — 预测2028年前超过40%的智能体AI项目将被搁置
- eWeek — NVIDIA首席执行官Jensen Huang在GTC 2026上关于AI推理时代的发言
- VnBusiness — 关于越南AI聊天机器人的调查与案例研究
如需获取详细报价及定制解决方案咨询,请通过热线/Zalo/WhatsApp:0966707701 或邮箱dungnh1@viettelidc.com.vn联系我们的销售团队。
English
Tiếng Việt
한국어
日本語
العربية
