yu

我最近读了很多关于AI代理的文章，有一件事很突出：对话已经从“能回答问题的AI”转向了“能实际完成工作的AI”。

这个想法听起来很吸引人。AI代理不仅仅是生成一个回复，它可以从不同系统检索信息、分析信息、生成报告、通知相关人员，并在最少人工干预的情况下推动工作流前进。

但我很好奇这在实践中效果如何。

根据我所看到的，最大的挑战似乎不在于AI模型本身，而在于：

• 与现有企业系统的集成。
• 处理不一致或碎片化的数据。
• 安全和治理要求。
• 建立足够的信任，让员工依赖AI驱动的工作流。

对于那些在生产环境中使用过AI代理（或评估过它们）的人，最大的障碍是什么？它们是否带来了有意义的商业价值，还是你认为大多数组织仍在试验阶段？

我很想听听真实世界的经验，而不是供应商的宣传。

过去五年中，生成式AI风靡市场，它能根据用户的prompt创建文本和动态视频等各种内容。现在，更有望为企业带来根本性转变的是Agentic AI。Agentic AI不仅仅是响应用户的prompt，还能通过推理、规划并执行多步骤操作来实现目标，而几乎无需人工干预。

Gartner公司预测，到2028年，至少15%的日常工作决策将由Agentic AI自主做出。Gartner还指出，到2027年底，企业将取消超过40%的Agentic AI项目。为什么Agentic AI如此重要，但是企业却在将AI融入运营上举步维艰？Gartner认为，其中最大的障碍是不断升级的成本和大规模部署AI智能体的复杂性。

为确保Agentic AI的成功落地，企业需要确保GPU与CPU的配比合理。“GPU闲置税”正成为用户扩展AI时日益关注的问题，它指的是GPU未被充分利用，且仍在产生费用的隐性成本。根据来自数万个集群的数据，Cast AI发布报告显示，GPU利用率仅为5%。GPU的闲置时间通常并非企业为节省资源而有意为之，而极可能是一种架构上的不平衡。英特尔与佐治亚理工学院在一项联合研究项目中发现，在智能体工作负载中，CPU上的工具处理占总延迟的50%到90%；GPU在等待CPU完成工作后才能处理下一批词元（token）的过程中处于闲置状态，这无形中增加了运营成本。

随着AI格局的持续转变和演进，企业需要CPU和GPU协同工作，并保持合理的配比，这将推动出色性能的实现，并避免为AI基础设施支付过高的费用。

生成式AI与Agentic AI

生成式AI和Agentic AI在工作流如何与周围系统互动方面存在根本差异。生成式AI通常在相对孤立的基础设施中运行。它接收输入prompt，使用预训练模型进行处理，然后返回输出，通常无需与其他系统进行深入的实时集成。其工作流在很大程度上是自包含的，依赖于静态训练数据，并且最多只从精选知识库中进行有限的检索。

相比之下，Agentic AI可以为了实现目标而自主行动，这需要跨组织基础设施的多个组件进行持续通信。这些系统必须能够编排操作、查...

我是一名外语老师。我从没想过自己可以在没有编程知识的情况下制作一个项目，或者将日常任务委托给AI代理。

我告诉我的同事和非技术人员（朋友们）关于我使用Claude Code或Cursor的经历，但他们立刻开始回答：“不，这太难了，我不信任它。”但在用通俗语言讨论之后，他们变得开放了。哇！

感谢我的朋友和丈夫（他们是IT专家），他们向我展示了AI代理和技能不仅仅是为他们准备的。但有些人（像我一样）没有这样的社交圈，继续认为非IT人员与此无关。

你们有非IT的朋友或同事使用它吗？他们为什么开始使用？他们是如何学会使用的？

这对我来说真的很有趣，因为我仅仅是把Claude下载到电脑上就感到害怕：):):)