加载中
WasmEdge 0.12.1 发布:新的 plugin 系统、用于 AI 的 Wasm API、高级 socket networking

WasmEdge 0.12.0 和 0.12.1 已经发布。这两个版本带来了大量新的特性、优化和错误修复,进一步提高了 WasmEdge 的性能、安全性和通用性。 主要特性: 新的 plugin 系统使社区可以轻松地向 Wa...

2023/06/19 16:58
4.3K
那些让 ChatGPT review 代码的程序员,后来都怎么样了?

Review PR 是开源项目的重要一环。对于项目维护者来说,社区有人来贡献代码,是一件值得开心的事情,说明自己的项目受到了认可。开源项目将通过社区贡献变得更强大。对于贡献代码的开发者来说...

2023/04/10 16:10
3.5K
云原生 WebAssembly 现在发展到哪一步了?

作者:Michael Yuan,WasmEdge Maintainer 2021 年 7 月,计算机协会编程语言特别兴趣小组将其享有盛誉的编程语言软件奖(Programming Language Software Award )颁给了 WebAssembly,高度肯...

将 JavaScript 嵌入到 Rust 中,并在 WebAssembly 中运行

WasmEdge 将 Rust 强大的性能和 JavaScript 的简单易用完美结合在一起 在 WasmEdge 中运行 JavaScript 程序,共有四篇系列文章: 用 WasmEdge 在 WebAssembly 中运行 JavaSript 用 Rust 创建...

2021/09/27 13:30
2.4K
用 WasmEdge 在 WebAssembly 中运行 JavaScript

WebAssembly 最初是作为“浏览器中的 JavaScript 替代品”。其想法是在浏览器中安全地运行编译自 C/C++ 或 Rust 等语言的高性能应用程序。在浏览器中,WebAssembly 和 JavaScript 并列运行。...

用 WasmEdge 和 YoMo 对实时数据流进行 AI 推理

YoMo 是一个用于辅助开发者方便构建分布式云系统(Geo-Distributed Cloud System)的编程框架。YoMo 的通讯层构建在 QUIC 协议之上,带来高速数据传输的同时,内置了 Streaming Serverless 的...

通过 WasmEdge ,用 Rust 函数扩展 Golang 应用

GO 编程语言(Golang)是一种易于使用且安全的编程语言,可编译为高性能的原生应用程序。Golang 是编写软件基础设施和框架的流行选择。 软件框架的一个关键要求是,用户能够使用自己的代码对...

OpenAI 停服!使用开源工具无缝切换开源大语言模型

今天有个关于 OpenAI 的新闻火了。有很多开发者收到了 OpenAI 的警告信。OpenAI 声称将在7月9日主动采取措施停止用户在其不支持的区域使用 OpenAI 的服务。这一措施将直接影响中国大陆和中国...

本地运行 Google 最新开源的 Gemma 系列模型,只需5分钟

昨天,Google 宣布开源 Gemma 模型,其中包含了 Gemma-2b-it 与 Gemma-7b-it,加入开源 LLM 大家庭。 Google Gemma 模型系列专为一系列文本生成任务而设计,例如问答、摘要和推理。 这些轻量...

不是 GPT4 用不起,而是本地运行 Mixtral-8x7B 更有性价比

当 GPT4 刚问世时,社区猜测它用了“多少亿个参数”才实现的如此惊人的性能。 但事实证明,GPT4 的创新不仅仅是“更多参数”。 它本质上是 8 个 GPT 3.5 模型一起工作。 这些模型中的每一个都...

01/03 11:22
757
跨设备本地运行幻方量化的 DeepSeek-LLM-7B-Chat 大模型

DeepSeek-LLM-7B-Chat 是幻方量化成立的深度求索公司训练的一个包含70亿参数的高级大语言模型,它用英文和中文的两万亿个token进行了训练。DeepSeek LLM 7B/67B Base 和 DeepSeek LLM 7B/67...

2023/12/28 11:52
207
run-llm.sh,一键在本地跨平台运行大语言模型

由 Second State 开发的 run-llm.sh 脚本是一个命令行工具,用于让你快速在本地设备使用 CLI 和与 OpenAI 兼容的 API 服务器运行开源大型语言模型(LLMs)。这个命令行应用程序会自动下载并安...

2023/12/25 16:53
116
ChatGPT 挂了一整天了,已经习惯了用大模型的我怎么办

OpenAI 挂了,已经习惯了用大模型的我怎么办 OpenAI 挂了,急,在线等。 你是不是已经习惯了 ChatGPT 的存在?是不是感觉离了 ChatGPT 寸步难行,很难再进行自己的工作?今天 ChatGPT 大面积...

2023/11/09 17:52
1.3K
异构边缘上的快速、可移植的 Llama2 推理

Rust + Wasm 技术栈可以是 AI 推理中强大的 Python 替代方案。 与 Python 相比,Rust+ Wasm 应用程序的大小可以是 Python 的 1/100,速度可以提高 100 倍,最重要的是,可以在完全硬件加速的...

2023/10/10 16:10
449
CNCF 发布 Wasm 全景图

CNCF landscape 由 CNCF 委托 Second State 制作。本文为译文,译者:Miley Fu, Vivian Hu ,原文作者:Chris Aniszczyk、Vivian Hu 、Michael Yuan,原文链接:https://www.cncf.io/blog/20...

2023/09/13 17:52
1.2W
WasmEdge 邀请你参加 WasmCon: 主题演讲、技术讲座和工作坊

来 WasmCon 找寻 WasmEdge 吧 : 主题演讲、技术讲座和工作坊,活动多多 备受期待的 WasmCon 技术大会即将于9月6日至8日召开,大会专注于 WebAssembly (Wasm)技术!WasmEdge 社区积极参与其中...

2023/08/31 18:09
724
在 “Baby 容器” WasmEdge 里运行 Baby 羊驼 llama 2

昨天,特斯拉前 AI 总监、OpenAI 联合创始人 Andrej Karpathy 开源了 llama2.c 。 只用 500 行纯 C 语言就能训练和推理 llama 2 模型的框架,没有任何繁杂的 python 依赖。这个项目一推出就受...

2023/07/25 18:24
930
7月8日活动|大语言模型时代,AI infra 长什么样?

随着 ChatGPT 的火热,大语言模型和相关应用不断涌现。你是否了解大语言模型的技术细节?你是否曾经开发过大语言模型应用?如果你对大语言模型背后的基础设施感兴趣,那么7月8号,北京海淀中...

2023/06/29 12:30
265
本周末,在上海和 WasmEdge 一起参加GOTC 全球开源技术峰会

全球开源技术峰会(Global Open-source Technology Conference,简称 GOTC)是由开放原子开源基金会、 Linux 基金会亚太区、上海浦东软件园和开源中国联合发起的,面向全球开发者的一场盛大开...

2023/05/26 16:44
3.3K
五分钟创建一个 Serverless ChatGPT GitHub App

自从 OpenAI 在2023年3月发布了 ChatGPT 的官方 API 和插件系统以来,许多开发者和创业者都兴致勃勃地想办法将其整合到自己的业务中。 本文讨论的 serverless 函数相当于 ChatGPT 插件。 它们...

2023/03/29 19:34
2.1K

没有更多内容

加载失败,请刷新页面

返回顶部
顶部