近日,MegEngine 在 v1.13.3 正式完成了与国内 AI 芯片独角兽寒武纪旗下云端人工智能处理器芯片的兼容性适配。MegEngine 与 寒武纪目前完成了常见 cv 模型的算子适配,这也标志着寒武纪端云一体的人工智能芯片,与 MegEngine 深度学习框架的成功融合。
如何在寒武纪上运行 MegEngine
MegEngine 寒武纪安装说明
- 安装的前置条件:
- 安装寒武纪 MLU 驱动,sdk-1.13.0-driver
- 安装 cntoolkit, cnnl, cnnl_extra, cncl, cnlight
- 安装 MagicMind
- 安装方式:通过源码编译安装
- 下载源码&编译
git clone https://github.com/MegEngine/MegEngine.git megengine
cd megengine
# 构建用于编译并打包的 docker 镜像
./scripts/whl/manylinux2014/build_image.sh
# 下载 mkl 依赖
./third_party/install-mkl.sh
# 编译并打包
export ALL_PYTHON="39" # 指定编译的 python 版本,可选 36m 37m 38 39 310
export NEUWARE_HOME=/usr/local/neuware # 指定寒武纪 sdk 安装路径
./scripts/whl/manylinux2014/build_wheel_common.sh -sdk neuware113
- 安装与验证生成的whl包
- 安装生成的 whl 包,并进行测试
cd megngine
pip3 install ./scripts/whl/manylinux2014/output/wheelhouse/neuware113/MegEngine-1.9999.0+neuware113-cp39-cp39-manylinux2014_x86_64.whl
# 验证是否编译成功
python3 -c "import megengine as mge; print(mge.is_cambricon_available()); print(mge.Tensor([1.]))"
-
- 输出类似以下内容,表示安装成功
True
06 14:03:06[mgb] cambricon: card0: name=`MLU370' dyn_mem_reserve=0.00MiB alignment=0x100
Tensor([1.], device=xpux:0)
- MegEngine 寒武纪训练示例见 cambircon_train
关于寒武纪
寒武纪成立于 2016 年,专注于人工智能芯片产品的研发与技术创新,致力于打造人工智能领域的核心处理器芯片,让机器更好地理解和服务人类。寒武纪提供云边端一体、软硬件协同、训练推理融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。寒武纪产品广泛应用于服务器厂商和产业公司,面向互联网、金融、交通、能源、电力和制造等领域的复杂 AI 应用场景提供充裕算力,推动人工智能赋能产业升级。
关于 MegEngine
开源深度学习框架旷视天元(MegEngine)是旷视自主研发的国产工业级深度学习框架 ,是旷视新一代 AI 生产力平台 Brain++ 的最核心组件,在2020年3月正式向全球开发者开源 。MegEngine 凭借其训练推理一体、超低硬件门槛和全平台高效推理 3 大核心优势,能够帮助企业与开发者大幅节省产品从实验室原型到工业部署的流程,真正实现小时级的转化能力。