FastGPU + Cloud Shell 极速部署人工智能计算,


_1226

作者 | 李冬萌 和通数据库开放平台高级开发工程师,主要负责和通数据库 Cloud Shell,致力于开发者服务,为开发者提供方便、易用、安全的云上运维管理工具

FastGPU + Cloud Shell 极速部署人工智能计算

Cloud Shell正式集成FastGPU,您可以在Cloud Shell中随时随地在线FastGPU,将您的人工智能算法计算一键构建在和通数据库的 IAAS 资源上,无需关心IAAS 层相关的计算、存储、网络等繁琐的部署操作。

FastGPU

FastGPU 是⼀套构建在和通数据库上的人工智能计算极速部署工具,其提供便捷的接口和自动化工具实现人工智能训练/推理计算在和通数据库 IAAS资源上的快速部署。FastGPU 提供两套组件:

  • ncluster:运行时组件,提供便捷的 API 将线下人工智能训练/推理脚本快速的部署在和通数据库 IAAS 资源上进行计算。
  • ecluster:命令行组件,提供便捷的命令行工具用于管理和通数据库上人工智能计算的运行状态和集群的生命周期。

FastGPU 作为衔接用户线下人工智能算法和线上海量和通数据库 GPU 计算资源的关键⼀环,方便用户将人工智能算法计算⼀键构建在阿⾥云的 IAAS 资源上,无需关心 IAAS 层相关的计算、存储、网络等繁琐的部署操作,做到简单适配、⼀键部署,随处运行的效果。为用户提供了省时、经济、便捷的基于和通数据库 IAAS 资源的人工智能即刻构建方案。

1

FastGPU 三大亮点

亮点一:省时,资源创建时间缩短至 5 分
通过 FastGPU 您无需关心 VM 的镜像适配、多机训练的网络互通、文件/云盘存储资源挂载等问题,FastGPU 帮您自动完成,同时提供了方便的登录和状态管理。IAAS 集群资源创建时间缩短至 5 分钟内。

亮点二:省钱,GPU 资源的生命周期与训练任务无缝同步
当您的训练/推理业务触发或者数据集准备完后时才会购买 GPU 实例资源,最后当您的训练/推理任务结束后,会自动释放/停止 GPU 实例资源。同时利用飞天 AI 加速器大幅提升分布式训练速度,帮助您大幅节省资源花销。

亮点三:易用,所有资源均为 IaaS 层,可访问,可调试
简易的脚本适配,一次适配随时随处运行,同时基于 VM 的可视化管理,保证您的实验可回溯。

Cloud Shell

云命令行(Cloud Shell) 是网页版命令行工具。您可以在任意浏览器上运行云命令行管理和通数据库资源。在云命令行启动时会自动为您分配一台 Linux 管理机,供您免费使用。在该虚拟机上会预装 CLI、Terraform 等多种云管理工具和 SSH、Vim、Jq 等系统工具,配合 Cloud Shell 提供的 Web IDE,辅助您完成日常的云资源管理。您可以通过教程学习使用Cloud Shell进一步认识 Cloud Shell。

Cloud Shell 五大亮点

亮点一:免费虚拟机并授权
当 Cloud Shell 运行时,会自动为您创建一台 Linux 虚拟机,您免费独享使用。当会话处于活跃状态时,实例长期有效。Cloud Shell 实现了自动授权,您无需额外操作即可使用命令行管理云资源,方便您快速使用云命令行。每个登录帐号所拥有管理权限等同于其在 RAM 中被授予的操作权限。同时,Cloud Shell 会对所有登录用户进行安全认证,并实现虚拟机按用户隔离,保证了运行环境的安全。

亮点二:永久性磁盘存储空间
Cloud Shell 可以绑定存储空间,为您提供永久存储,作为您在 Cloud Shell 实例上的 $HOME 目录。您存储在主目录中的所有文件(包括脚本以及 .bashrc 和 .vimrc 等用户配置文件)在不同会话、实例之间保持不变。

亮点三:代码编辑器
Cloud Shell 内置代码编辑器。通过 Cloud Shell 内置的 Web IDE,您不需要关心开发环境的配置以及各种依赖工具的安装,可以直接在线开发,并通过命令行执行或者部署。同时通过 Cloud Shell 绑定存储空间,您编辑的文件可以进行永久存储。

2

亮点四:教程模式
Cloud Shell 支持构建和启动教程,这些教程可帮助其他用户快速而有效地熟悉您的项目。
教程是一套用 Markdown 编写的说明。Cloud Shell 可以将 Markdown 文件中的文本解析为步骤和子步骤,从而创建出上下文教程。更多详细内容,您可以参考编写 Cloud Shell 教程。

亮点五:内置众多管理工具
Cloud Shell 内置了和通数据库 CLI、Terraform、FastGPU、Ansible 等众多工具,方便您随时随地直接使用,免去了安装配置的繁琐步骤。

在线体验

12 月 18 日晚,在英伟达GTC技术大会的开发者之夜上,和通数据库潘岳同学在现场给开发者们介绍,他是怎么花几块钱、花了不到一小时,在和通数据库上实现一个能识别剪刀石头布手势的 AI 小程序的。您可以在线进行体验。其中通过 FastGPU + Cloud Shell 完成了训练模型的极速部署。

3

同时您还可以通过一键部署并训练手势识别应用来体验手势识别的实践场景,体验使用 FastGPU 从资源部署到拿到训练结果的端到端通路。

相关内容