加载中
WasmEdge 0.12.1 发布:新的 plugin 系统、用于 AI 的 Wasm API、高级 socket networking

WasmEdge 0.12.0 和 0.12.1 已经发布。这两个版本带来了大量新的特性、优化和错误修复,进一步提高了 WasmEdge 的性能、安全性和通用性。 主要特性: 新的 plugin 系统使社区可以轻松地向 Wa...

2023/06/19 16:58
4.2K
那些让 ChatGPT review 代码的程序员,后来都怎么样了?

Review PR 是开源项目的重要一环。对于项目维护者来说,社区有人来贡献代码,是一件值得开心的事情,说明自己的项目受到了认可。开源项目将通过社区贡献变得更强大。对于贡献代码的开发者来说...

2023/04/10 16:10
3.5K
云原生 WebAssembly 现在发展到哪一步了?

作者:Michael Yuan,WasmEdge Maintainer 2021 年 7 月,计算机协会编程语言特别兴趣小组将其享有盛誉的编程语言软件奖(Programming Language Software Award )颁给了 WebAssembly,高度肯...

将 JavaScript 嵌入到 Rust 中,并在 WebAssembly 中运行

WasmEdge 将 Rust 强大的性能和 JavaScript 的简单易用完美结合在一起 在 WasmEdge 中运行 JavaScript 程序,共有四篇系列文章: 用 WasmEdge 在 WebAssembly 中运行 JavaSript 用 Rust 创建...

2021/09/27 13:30
2.3K
用 WasmEdge 在 WebAssembly 中运行 JavaScript

WebAssembly 最初是作为“浏览器中的 JavaScript 替代品”。其想法是在浏览器中安全地运行编译自 C/C++ 或 Rust 等语言的高性能应用程序。在浏览器中,WebAssembly 和 JavaScript 并列运行。...

用 WasmEdge 和 YoMo 对实时数据流进行 AI 推理

YoMo 是一个用于辅助开发者方便构建分布式云系统(Geo-Distributed Cloud System)的编程框架。YoMo 的通讯层构建在 QUIC 协议之上,带来高速数据传输的同时,内置了 Streaming Serverless 的...

通过 WasmEdge ,用 Rust 函数扩展 Golang 应用

GO 编程语言(Golang)是一种易于使用且安全的编程语言,可编译为高性能的原生应用程序。Golang 是编写软件基础设施和框架的流行选择。 软件框架的一个关键要求是,用户能够使用自己的代码对...

本地运行 Google 最新开源的 Gemma 系列模型,只需5分钟

昨天,Google 宣布开源 Gemma 模型,其中包含了 Gemma-2b-it 与 Gemma-7b-it,加入开源 LLM 大家庭。 Google Gemma 模型系列专为一系列文本生成任务而设计,例如问答、摘要和推理。 这些轻量...

不是 GPT4 用不起,而是本地运行 Mixtral-8x7B 更有性价比

当 GPT4 刚问世时,社区猜测它用了“多少亿个参数”才实现的如此惊人的性能。 但事实证明,GPT4 的创新不仅仅是“更多参数”。 它本质上是 8 个 GPT 3.5 模型一起工作。 这些模型中的每一个都...

01/03 11:22
534
跨设备本地运行幻方量化的 DeepSeek-LLM-7B-Chat 大模型

DeepSeek-LLM-7B-Chat 是幻方量化成立的深度求索公司训练的一个包含70亿参数的高级大语言模型,它用英文和中文的两万亿个token进行了训练。DeepSeek LLM 7B/67B Base 和 DeepSeek LLM 7B/67...

2023/12/28 11:52
69
run-llm.sh,一键在本地跨平台运行大语言模型

由 Second State 开发的 run-llm.sh 脚本是一个命令行工具,用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型(LLMs)。这个命令行应用程序会自动下载并安...

2023/12/25 16:53
52
ChatGPT 挂了一整天了,已经习惯了用大模型的我怎么办

OpenAI 挂了,已经习惯了用大模型的我怎么办 OpenAI 挂了,急,在线等。 你是不是已经习惯了 ChatGPT 的存在?是不是感觉离了 ChatGPT 寸步难行,很难再进行自己的工作?今天 ChatGPT 大面积...

2023/11/09 17:52
1K
异构边缘上的快速、可移植的 Llama2 推理

Rust + Wasm 技术栈可以是 AI 推理中强大的 Python 替代方案。 与 Python 相比,Rust+ Wasm 应用程序的大小可以是 Python 的 1/100,速度可以提高 100 倍,最重要的是,可以在完全硬件加速的...

2023/10/10 16:10
403
CNCF 发布 Wasm 全景图

CNCF landscape 由 CNCF 委托 Second State 制作。本文为译文,译者:Miley Fu, Vivian Hu ,原文作者:Chris Aniszczyk、Vivian Hu 、Michael Yuan,原文链接:https://www.cncf.io/blog/20...

2023/09/13 17:52
1.2W
WasmEdge 邀请你参加 WasmCon: 主题演讲、技术讲座和工作坊

来 WasmCon 找寻 WasmEdge 吧 : 主题演讲、技术讲座和工作坊,活动多多 备受期待的 WasmCon 技术大会即将于9月6日至8日召开,大会专注于 WebAssembly (Wasm)技术!WasmEdge 社区积极参与其中...

2023/08/31 18:09
698
在 “Baby 容器” WasmEdge 里运行 Baby 羊驼 llama 2

昨天,特斯拉前 AI 总监、OpenAI 联合创始人 Andrej Karpathy 开源了 llama2.c 。 只用 500 行纯 C 语言就能训练和推理 llama 2 模型的框架,没有任何繁杂的 python 依赖。这个项目一推出就受...

2023/07/25 18:24
904
7月8日活动|大语言模型时代,AI infra 长什么样?

随着 ChatGPT 的火热,大语言模型和相关应用不断涌现。你是否了解大语言模型的技术细节?你是否曾经开发过大语言模型应用?如果你对大语言模型背后的基础设施感兴趣,那么7月8号,北京海淀中...

2023/06/29 12:30
240
本周末,在上海和 WasmEdge 一起参加GOTC 全球开源技术峰会

全球开源技术峰会(Global Open-source Technology Conference,简称 GOTC)是由开放原子开源基金会、 Linux 基金会亚太区、上海浦东软件园和开源中国联合发起的,面向全球开发者的一场盛大开...

2023/05/26 16:44
3.3K
五分钟创建一个 Serverless ChatGPT GitHub App

自从 OpenAI 在2023年3月发布了 ChatGPT 的官方 API 和插件系统以来,许多开发者和创业者都兴致勃勃地想办法将其整合到自己的业务中。 本文讨论的 serverless 函数相当于 ChatGPT 插件。 它们...

2023/03/29 19:34
2.1K
GSoC 2023 报名开启:和 WasmEdge 一起构建云计算的未来吧

最近,Google Summer of Code 2023 公布了入选的开源组织。 通过 CNCF Mentoring 平台,WasmEdge 成功入选 GSoC 2023。 GSoC 2023 已经在3月20日正式开放个人申请,快来申请 WasmEdge 的两个...

2023/03/20 17:18
210

没有更多内容

加载失败,请刷新页面

返回顶部
顶部