部署模型进行批量推理和预测

本文介绍了 Databricks 建议用于批量推理的内容。

使用 Spark 数据帧进行批处理推理

有关使用 Spark DataFrame 进行批量推理的分步指南，请参阅 使用 Spark DataFrame 执行批量推理。

有关深度学习模型推理示例，请参阅以下文章：

• 使用 TensorFlow 和 TensorRT 进行模型推理
• 使用 PyTorch 进行模型推理

使用 Spark UDF 进行结构化数据提取和批处理推理

以下示例笔记本演示了用于结构化数据提取的简单代理的开发、日志记录和评估，以通过自动提取技术将原始非结构化数据转换为有组织的、可使用的信息。 此方法演示如何使用 MLflow 的 PythonModel 类为批处理推理实现自定义代理，并将记录的代理模型用作 Spark User-Defined 函数（UDF）。 此笔记本还演示如何利用马赛克 AI 代理评估，通过真实基础数据来评估其准确性。

使用 Spark UDF 进行结构化数据提取和批处理推理

获取笔记本

:::