使用 EC2 GPU 运行 AI 推理：入门介绍及与 CPU 的对比

本文介绍如何在 Amazon EC2 的 p3、g4dn 等 GPU 实例上用 PyTorch 部署 transformer 模型进行 AI 推理，分析 GPU 相对 CPU 在并行矩阵运算与低延迟场景下的优势，并对比了直接使用 EC2 与托管服务 SageMaker 的取舍。