将 JavaScript 嵌入到 Rust 中,并在 WebAssembly 中运行

原创
2021/09/27 13:30
阅读数 1.7K

WasmEdge 将 Rust 强大的性能和 JavaScript 的简单易用完美结合在一起

在 WasmEdge 中运行 JavaScript 程序,共有四篇系列文章:

在我之前的文章中,我讨论了如何在 WebAssembly 沙箱中运行 JavaScript 程序。 WasmEdge runtime 为云原生 JavaScript 应用程序提供了一个轻量级、高性能且符合 OCI 标准的“容器”。

然而,JavaScript 是一种“慢”语言。使用 JavaScript 的原因主要是因为它用起来很容易,开发者生产力高,对初学者来说尤其如此。另一方面,WebAssembly 能够运行用 Rust 等语言编写的高性能应用程序。有没有结合 JavaScript 和 Rust 的解决方案? WasmEdge 给出了两全其美的答案。

有了 WasmEdge 和 QuickJS,开发者就可以完美搭配这两个最强大的语言来创造应用程序。就像下面这样:

  • 该应用程序本身是用 Rust 写的并被编译成了 WebAssembly。它可以作为单个 wasm 字节码文件进行编译和部署。 它可以由符合 OCI 的容器工具管理,如 Docker Hub、CRI-O 和 k8s。
  • JavaScript 程序嵌入在 Rust 应用程序中。 Rust 程序可以在编译时包含JavaScript 源代码,也可以在 runtime 通过文件、STDIN、网络请求甚至函数调用引入JS。 这样一来 JavaScript 程序可以由与Rust 程序不同的开发者编写。
  • Rust 程序可以处理应用程序中的计算密集型任务,而 JavaScript 程序可以处理“业务逻辑”。 例如,Rust 程序可以为 JavaScript 程序准备数据。

接下来,让我们看几个示例。所有示例都在 wasmedge-quickjs repo 的 embed_in_rust 分支中。

$ git clone https://github.com/second-state/wasmedge-quickjs
$ git checkout embed_in_rust

确保你已经安装 RustWasmEdge,这样才能构建和运行本文中的示例。

Hello WasmEdge

main.rs 中的以下 Rust 程序在编译时嵌入了一个 JavaScript 程序。

pub mod quickjs_sys;

... ...

fn main() {
    use quickjs_sys as q;
    let mut ctx = q::Context::new();
    // include js code
    let code = include_str!("../example_js/demo.js");
    // get args and set into quickjs
    let mut res_args = args_parse();
    res_args.insert(0, "<embedded_no_filename>".to_string());
    ctx.put_args(res_args);
    // run js code
    ctx.eval_str(code, "");
}

example_js/demo.js 代码如下。

import * as std from 'std';

print('hello')
print('args:',...args)

//write fs
let wf = std.open('demo.txt','w')
wf.puts('hello quickjs')
wf.close()

//read fs
let rf = std.open('demo.txt','r')
let r = rf.getline()
print(r)
rf.close()

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。

$ cargo build --target wasm32-wasi --release

运行它,就看到打印到控制台的结果了。

$ cd example_js
$ wasmedge --dir .:. ../target/wasm32-wasi/release/quickjs-rs-wasi.wasm

就是这样。 Rust 代码可以通过传递参数甚至直接修改包含的 JavaScript 源代码,将数据传递到 JavaScript 代码中。 JavaScript 代码还可以通过写入临时文件来返回值。

使用嵌入式 JavaScript 进行图片识别

你可以修改 main.rs 中的 Rust 程序以嵌入不同的 JavaScript 程序。 在下面的示例中,让我们更改为

`pub mod quickjs_sys;

... ...

fn main() {
    ... ...
    let code = include_str!("../example_js/tensorflow_lite_demo/main.js");
    ... ...
    ctx.eval_str(code, "");
}`

main.js 代码使用 WasmEdge Tensorflow 扩展的 JavaScript API 来调用 ImageNet 读取和识别图像模型。

import {TensorflowLiteSession} from 'tensorflow_lite'
import {Image} from 'image'

let img = new Image('./example_js/tensorflow_lite_demo/food.jpg')
let img_rgb = img.to_rgb().resize(192,192)
let rgb_pix = img_rgb.pixels()

let session = new TensorflowLiteSession('./example_js/tensorflow_lite_demo/lite-model_aiy_vision_classifier_food_V1_1.tflite')
session.add_input('input',rgb_pix)
session.run()
let output = session.get_output('MobilenetV1/Predictions/Softmax');
let output_view = new Uint8Array(output)
let max = 0;
let max_idx = 0;
for (var i in output_view){
    let v = output_view[i]
    if(v>max){
        max = v;
        max_idx = i;
    }
}
print('label index:',max_idx,'\nconfidence:',max/255)

你可以将 Rust + JavaScript 应用程序构建到单个 WebAssembly 字节码程序中。 注意 --features=tensorflow 标志,它要求 Rust 编译器使用 WasmEdge TensorFlow 扩展 API。

$ cargo build --target wasm32-wasi --release --features=tensorflow

运行并查看打印到控制台的结果。

$ cd example_js/tensorflow_lite_demo
$ wasmedge --dir .:. ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm

运行地更快

运行上面的 Tensorflow 推理示例需要花费 1-2 秒。这在 Web 应用场景中是可以接受的,但还能改进。在上篇文章中,我们提过由于其 AOT(提前编译器)优化,WasmEdge 是当前速度最快的 WebAssembly runtime。 WasmEdge 提供了一个 wasmedgec 实用程序来将 wasm 文件编译为原生的 so 共享库。你可以使用 wasmedge 来运行 so 文件而不是 wasm 文件以获得更快的性能。

下面的例子使用了 wasmedgewasmedgec 的扩展版本来支持 WasmEdge Tensorflow 扩展。

$ cd example_js/tensorflow_lite_demo
$ wasmedgec-tensorflow ../../target/wasm32-wasi/release/quickjs-rs-wasi.wasm quickjs-rs-wasi.so
$ wasmedge-tensorflow-lite --dir .:. quickjs-rs-wasi.so

你可以看到图像分类任务可以在 0.1 秒内完成。这至少是 10 倍的改进!

so 共享库不能跨机器和操作系统移植。你必须在你部署和运行应用程序的机器上运行 wasmedecwasmedec-tensorflow

下一步

在 Rust 中嵌入 JavaScript 是一种创建高性能云原生应用程序的强大方法。 下一篇文章中,我们将研究另一种技术方法:在 JavaScript 中嵌入原生库。

云原生 WebAssembly 中的 JavaScript 是下一代云和边缘计算基础设施中的新兴领域。 我们也是刚刚起步! 如果你也感兴趣,请加入我们的 WasmEdge 项目或通过提出 feature request issue 告诉我们,你需要的是什么。

展开阅读全文
加载中

作者的其它热门文章

打赏
0
1 收藏
分享
打赏
0 评论
1 收藏
0
分享
返回顶部
顶部