为人工智能构建企业环境

对于企业来说，人工智能的承诺不仅仅是一个更好的聊天机器人。它是跨人员、业务工作流程、数据和系统执行端到端业务任务的软件代理。最适合运行代理的平台具有适当的中央处理器容量、弹性数据访问、策略感知工具使用、可观察性、内存管理以及可预测地规划和扩展代理的能力。为了更好地了解其中一些依赖关系，英特尔进行了数千次代理人工智能工作负载实验。我们的初步研究结果为企业领导者提供并支持了五个实践教训：抽象人工智能不仅仅是LLM推理。其企业价值取决于完整的系统、任务编排、数据访问、工具执行、延迟管理、治理和可扩展的基础设施。代理是一个目标驱动的自动化企业工作流程：它计划多步骤任务、调用工具、读取结果并在出现故障时重新尝试。因此，企业代理不仅仅是一个推理问题;它们是一个系统问题。大多数代理人工智能指标专注于评估所使用的LLM。平台团队还需要知道任务需要多长时间、团队可以支持多少个代理、用户在执行过程结束时体验到什么，以及随着更多代理协同工作，成本如何变化。更有用的企业视图着眼于六个指标：这些共同回答了企业人工智能操作员关心的问题：系统是否按预期执行？该系统可以维持多少代理人？它应该如何扩展以支持更多代理商？为了更深入地了解代理人工智能工作负载性能，英特尔扩展了一个开源基准测试工具，用于评估具有分析、遥感和回放功能的人工智能代理。这使得了解代理在LLM推断之外花费的时间成为可能。基准扩展使用LLM响应的确定性记录回放来将代理性能与LLM可变性分开。LLM回复记录一次

注：以上内容摘选自原始新闻，点击「访问原文」查看完整内容。