百度Geek说的个人空间 - OSCHINA - 中文开源技术交流社区

为了让飞桨开发者们掌握第一手技术动态、让企业落地更加高效，飞桨官方在7月至10月特设《飞桨框架3.0全面解析》系列技术稿件及直播课程。技术解析加代码实战，带大家掌握包括核心框架、分布式...

性能优化 distributed mesh pipeline rwkv 人脸识别算法 debug 大语言模型 fusion

工作日志

08/29 10:56

50

0

导读本文大语言模型在未经标注的大量文本上进行预训练后，可能产生包含偏见、泄露隐私甚至对人类构成威胁的内容。OpenAI 最先提出了基于人类反馈的强化学习算法(Reinforcement Learning fro...

ppo actor prompt micro 性能优化其他 mbs 强化学习 context 大语言模型 batch refit sft

工作日志

08/27 14:01

4.1K

0

主成分分析（PCA，Principal Component Analysis）是一项在高维数据中，寻找最重要特征的降维技术，大大减少数据的维度，而不显著损失信息量。本文将通过基于飞桨框架的实际代码示例，来展示...

特征向量深度学习 v data 机器学习人脸识别算法数据处理 https 数据可视化

工作日志

08/22 15:41

163

0

为了让飞桨开发者们掌握第一手技术动态、让企业落地更加高效，飞桨官方在7月至10月特设《飞桨框架3.0全面解析》系列技术稿件及直播课程。技术解析加代码实战，带大家掌握包括核心框架、分布式...

编译器神经网络编译器后端 reduce 深度学习框架深度学习深度学习编译器

工作日志

08/20 10:43

108

0

本文作者-是 Yu 欸，华科在读博士生，定期记录并分享所学知识，博客关注者5w+。本文将详细介绍如何在 PaddlePaddle 中利用稀疏计算应用稀疏 ResNet，涵盖稀疏数据格式的础知识、如何创建和操...

values 神经网络激活函数 https 数据处理深度学习 sparse 其他 paddlepaddle

工作日志

08/15 14:25

5.2K

0

HPC 集群可以快速完成复杂计算，支撑模型仿真、数据分析等应用的高效运行，提高业务的创新速度，缩短产品上市时间。在很长的一段时间内，企业为了最大化提升市场竞争力，在传统的 HPC 集群上...

开源性能优化 chpc llama3 可视化其他系统管理员云原生 btune genoa transformer

工作日志

08/13 11:30

123

0

作者 | StarKeeper 导读本文深入探讨了如何在Embedding空间中运用先进的时序异常检测技术，针对安全、反作弊等业务场景下的流量与用户行为进行精准监控。通过向量化处理和Embedding技术，将...

聚类 llama3 云原生 embedding cluster starkeeper useragent olap oltp ellipticenvelope jarvis2

工作日志

08/08 10:29

454

0

作者 | 小y 导读广告检索系统的性能长尾影响KPI，间接影响收入，极致优化成本和性能一直是检索端工程团队的重要工作。随着基于SSD分级存储在商业场景规模应用，在部分访盘量高的场景，为控制...

flying redis 操作系统 uniform timer cas 其他 xeon tree dump delete llama3 文件操作 fifo

工作日志

08/06 10:22

6.9K

0

读完全文后，你将获得回答以下问题的能力（参考答案，请见最后一章节）： Llama 3 技术博客说 70B 模型、最长序列 8K、15T Tokens，训练了 640w GPU 时，这发挥了 H100 理论算力（989TFlops...

k v 激活函数 llama3 llama bloom transformer tokenizer 大语言模型 down attention 其他

工作日志

08/01 10:56

171

0

百度Geek说

技能雷达

Gitee 贡献

博客数据统计

OSCHINA 社区

在线工具

攻略

QQ群

公众号

视频号