通过

在 Azure 容器实例上部署和运行容器

  • 项目

使用以下步骤，可以轻松地通过 Azure 容器实例在云中缩放 Azure AI 服务应用程序。 容器化可帮助你集中精力构建应用程序，而不是管理基础结构。 有关使用容器的详细信息，请参阅功能和优势。

先决条件

此方案适用于任何 Azure AI 服务容器。 使用此方案之前，必须先创建 Azure AI 服务资源。 支持容器的每个 Azure AI 服务都有一篇“如何安装”文章，其中介绍了如何为容器安装并配置服务。 某些服务需要一个文件或一组文件作为容器的输入。在使用此解决方案之前，请确保了解并已成功使用过容器。

  • 你正在使用的 Azure AI服务的 Azure 资源。

  • Azure AI 服务终结点 URL - 查看容器的特定服务的“如何安装”文章，以了解终结点 URL 在 Azure 门户内的位置，以及 URL 的正确示例的样式。 确切的格式可能因服务而异。

  • Azure A 服务资源密钥 - 密钥位于 Azure 资源的“密钥”页面上。 您只需要两个密钥中的一个即可。 密钥是包含 32 个字母数字字符的字符串。

  • 本地主机（你的计算机）上的单个 Azure AI 服务容器。 确保你可以：

    • 使用 docker pull 命令拉取映像。
    • 使用 docker run 命令通过所有必需的配置设置成功运行本地容器。
    • 调用容器的终结点，获取 HTTP 2xx 响应和 JSON 响应。

尖括号 <> 中的所有变量都需要替换为你自己的值。 此替换包括尖括号。

重要

LUIS 容器需要在运行时中拉取的 .gz 模型文件。 容器必须能够通过容器实例中的卷装载来访问此模型文件。 若要上传模型文件，请执行以下步骤：

  1. 创建 Azure 文件共享。 记下 Azure 存储帐户名称、密钥和文件共享名称，因为稍后需要用到它们。
  2. 从 LUIS 门户中导出你的 LUIS 模型（打包的应用）。
  3. 在 Azure 门户中，导航到你的存储帐户资源的“概述”页，然后选择“文件共享”。
  4. 选择你最近创建的文件共享名称，然后选择“上传”。 接着上传打包的应用。

通过 Azure 门户创建 Azure 容器实例资源

  1. 转到容器实例的创建页。

  2. 在“基本信息”选项卡中输入以下详细信息：

    设置 值
    订阅 选择订阅。
    资源组 选择可用的资源组，或者创建一个新的，例如 cognitive-services。
    容器名称 输入一个名称，例如 cognitive-container-instance。 此名称必须小写。
    位置 选择要部署的区域。
    映像类型 如果容器映像存储在不需凭据的容器注册表中，请选择 Public。 如果访问容器映像时需要凭据，请选择 Private。 请参阅容器存储库和映像，详细了解容器映像是 Public 还是 Private（“公共预览版”）。
    映像名称 输入 Azure AI 服务容器的位置。 位置是用作 docker pull 命令参数的项。 请参阅容器存储库和映像，获取可用的映像名称及其相应的存储库。

    映像名称必须完全限定，并指定三个部分。 首先是容器注册表，接着是存储库，最后是映像名称：<container-registry>/<repository>/<image-name>。

    这是一个示例：mcr.microsoft.com/azure-cognitive-services/keyphrase 表示 Azure AI 服务存储库下 Microsoft 容器注册表中的“关键短语提取”映像。 另一示例：containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text 表示“容器预览版”容器注册表的 Microsoft 存储库中的“语音转文本”映像。
    OS 类型 Linux
    大小 对于特定的 Azure AI 服务容器，请将大小更改为建议的设置：
    2 个CPU 核心
    4 GB

  3. 在“网络”选项卡上，输入以下详细信息：

    设置 “值”
    端口 将 TCP 端口设置为 5000。 在端口 5000 上公开此容器。

  4. 在“高级”选项卡上，输入所需的环境变量作为 Azure 容器实例资源的容器计费设置：

    键 值
    ApiKey 从资源的“键和终结点”页复制。 它是一个由 32 个字母数字组成的字符串（不包含空格或短划线），即 xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx。
    Billing 从资源的“键和终结点”页复制的终结点 URL。
    Eula accept

  5. 选择“查看并创建”

  6. 验证通过后，单击“创建”，完成创建过程

  7. 成功部署资源以后，即可使用它

使用容器实例

  1. 选择“概述”并复制 IP 地址。 它将是数字 IP 地址，例如 55.55.55.55。

  2. 打开新的浏览器选项卡，并使用 IP 地址（例如 http://<IP-address>:5000 (http://55.55.55.55:5000）。 此时会显示容器的主页，告知你该容器处于运行状态。

    容器的主页

  3. 选择“服务 API 说明”以查看容器的 Swagger 页面。

  4. 选择任何 POST API，然后选择“试用”。此时会显示参数，其中包括输入。 填写这些参数。

  5. 选择“执行”以将请求发送到你的容器实例。

    你已成功地在 Azure 容器实例中创建并使用了 Azure AI 容器。