在 AWS 上使用 MONAI Deploy 构建医疗影像 AI 推断管道

由 Ming Qin、Brad Genereaux、David Bericat、Chris Hafey、Gang Fu 和 JP Leger 撰写发表于 2023 年 11 月 08 日于 学术医疗中心、Amazon SageMaker、人工智能、AWS HealthImaging、技术教程永久链接评论 分享

本文由 NVIDIA 的 Ming (Melvin) Qin、David Bericat 和 Brad Genereaux 合著。

关键要点

医疗影像 AI 研究人员和开发人员需要一个可扩展的企业框架来构建、部署和集成他们的 AI 应用程序。AWS 和 NVIDIA 合力实现了这一愿景。AWS HealthImaging 是一种符合 HIPAA 的高效可扩展医疗影像存储解决方案。我们开发了一个 MONAI Deploy 连接器，以便通过云原生 API 以亚秒级图像检索延迟将医疗影像 AI 应用程序集成到 AWS HealthImaging 中。MONAI Deploy 使医疗影像 AI 应用程序开发得以加速，并可以在 Amazon SageMaker 上托管，确保机器学习模型的高效部署。

解决方案概述

以下图示展示了解决方案架构。

前提条件

请完成以下前提步骤：

MAP 连接器到 AWS HealthImaging

AWS HealthImaging 导入 DICOM P10 文件并将其转换为 ImageSets，优化了 DICOM 系列表示形式。AHI 提供对 ImageSet 元数据和 ImageFrames 的 API 访问。元数据包含所有 DICOM 属性的 JSON 文档。ImageFrames 以 高吞吐量 JPEG2000 (HTJ2K) 无损格式返回，解码速度极快。可以使用 AWS 命令行界面 (AWS CLI) 或 AWS SDK 检索 ImageSets。

MONAI 是一种医疗影像 AI 框架，将研究突破和 AI 应用程序转化为临床影响。MONAI Deploy 是一个处理管道，支持端到端工作流程，包括打包、测试、部署和运行医疗影像 AI 应用程序。它包含 MONAI Deploy App SDK、MONAI Deploy Express、工作流管理器 和 信息网关。

我们开发了一个使用 AWS HealthImaging Python SDK Boto3 的 Python 模块。您可以通过 pip 安装并使用帮助函数以下列方式检索 DICOM 服务对象对SOP实例：

python!pip install q AHItoDICOMInterfacefrom AHItoDICOMInterfaceAHItoDICOM import AHItoDICOMhelper = AHItoDICOM()instances = helperDICOMizeImageSet(datastoreid=datastoreId imagesetid=next(iter(imageSetIds)))

输出的 SOP 实例可以使用交互式 3D 医疗图像查看器 itkwidgets 在以下 笔记本 中进行可视化。

SageMaker 异步推断

SageMaker 的 异步推断 端点用于处理大负载最多 1 GB、长处理时间最长 15 分钟和近实时延迟要求的请求。当没有请求需要处理时，此部署选项可以将实例计数缩减到零，以节省成本，非常适合医疗影像 ML 推断工作负载。

请遵循 示例笔记本 中的步骤来创建和调用 SageMaker 异步推断端点。要 创建异步推断端点，您需要首先创建 SageMaker 模型和端点配置。

pythonsess = sagemakerSession()InputLocation = sessuploaddata(inputImageSetsjson bucket=sessdefaultbucket() keyprefix=prefix extraargs={ContentType application/json})response = runtimesmclientinvokeendpointasync(EndpointName=endpointname InputLocation=InputLocation ContentType=application/json Accept=application/json)outputlocation = response[OutputLocation]

输出也可以在 Amazon S3 中找到。

SageMaker 多模型实时推断

SageMaker 的 实时推断 端点满足交互式、低延迟要求。此选项可以在同一端点后面的一个容器中托管多个模型，这是部署多种 ML 模型的可扩展且具有成本效益的解决方案。

多模型端点减少了部署开销，并根据到端点的流量模式扩展模型推断。在此部分，我们将展示如何通过以下 示例笔记本 创建和调用多模型端点。

清理

不要忘记在 lab3 和 lab4 笔记本中完成 删除托管资源 步骤以删除 SageMaker 推断端点。

结论

在本文中，我们展示了如何创建一个 MAP 连接器到 AWS HealthImaging，作为在 MONAI Deploy App SDK 中构建的应用程序中的可重用组件，以集成和加速从云原生 DICOM 存储到医疗影像 AI 工作负载的图像数据检索。希望这些示例能为您的开发提供指导。

如需了解 AWS 可以如何帮助您，请联系 AWS 代表。

相关链接

作者介绍

Ming (Melvin) QinNVIDIA 医疗团队的独立贡献者，专注于开发 AI 推断应用程序框架和平台，推动 AI 在医疗影像工作流中的应用。

David BericatNVIDIA 医疗产品经理，领导 Project MONAI Deploy 工作组，推动 AI 从研究到临床应用的转化。

Brad GenereauxNVIDIA 全球医疗联盟负责人，致力于推动医疗影像的 AI 和深度学习解决方案。

Gang FuAWS 医疗解决方案架构师，拥有药学科学博士学位，并在技术和生物医学研究方面拥有超过 10 年的经验。

JP LegerAWS 高级解决方案架构师，负责支持学术医疗中心和医疗影像工作流。

Chris HafeyAWS 首席解决方案架构师，在医疗影像领域拥有超过 25 年的经验，专注于构建可扩展的高性能系统。