robin-yao的个人页面 - OSCHINA - 中文开源技术交流社区

robin-yao

222

经验值

0

开源豆

关注私信

连击天

fork: star:

加载中

我们非常高兴地宣布vLLM V1的alpha版本发布，这是vLLM核心架构的一次重大升级。基于过去1.5年vLLM开发过程中积累的经验，我们重新审视了关键设计决策，整合了多项功能，并简化了代码库，以增...

vllm

01/30 16:50

1.1K

0

引言在大模型（如GPT、BERT等）快速发展的今天，如何高效地处理并输出大模型的生成结果成为了一个重要的技术挑战。传统的请求-响应模式在处理大模型的流式输出时，往往面临延迟高、资源消耗...

data fastapi html server update uvicorn stream curl bert websocket http event retry message

大模型

01/30 16:28

100

0

本文主要介绍JDK动态代理的基本原理，让大家更深刻的理解JDK Proxy,知其然知其所以然。明白JDK动态代理真正的原理及其生成的过程，我们以后写JDK Proxy可以不用去查demo，就可以徒手写个完美...

interface jdk invoke class helloworld blog loader https .net 虚拟机 proxy object proxygenerator

java

2016/12/23 23:44

1.3W

5

没有更多内容

加载失败，请刷新页面

没有更多内容

文章删除后无法恢复，确定删除此文章吗？

取消

确定

动弹删除后，数据将无法恢复

取消

确定

评论删除后，数据将无法恢复

取消

确定

robin-yao

技能雷达

Gitee 贡献

博客数据统计

OSCHINA 社区

在线工具

攻略

公众号

视频号

问题反馈