https://index.zshipu.com/geek/tags/TFServing/ Recent content in TFServing on 知识铺的博客 Hugo -- gohugo.io zh-CN Tue, 15 Mar 2022 09:13:25 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E7%88%B1%E5%A5%87%E8%89%BA%E5%86%85%E5%AD%98%E6%B3%84%E6%BC%8F%E4%BC%98%E5%8C%96%E5%AE%9E%E8%B7%B5/ Tue, 15 Mar 2022 09:13:25 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E7%88%B1%E5%A5%87%E8%89%BA%E5%86%85%E5%AD%98%E6%B3%84%E6%BC%8F%E4%BC%98%E5%8C%96%E5%AE%9E%E8%B7%B5/ 稿 深度学习平台团队 TensorFlow Serving 由于其便捷稳定的特点在 CTR(Click-through Rate，点击率) 预估业务场景被广泛的使用，但是其运行时会出现内存不断增长的问题，也不断有相关issue 被提交到 Github 社区，且目前都是 Open 状态。本文分享了爱奇艺深度学习平台在实践中发现的两个 TensorFlow Serving内存泄漏 问题，并修复和提交了 PR 到社 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E4%B8%B0%E5%AF%8C%E7%94%9F%E6%80%81%E7%88%B1%E5%A5%87%E8%89%BA%E5%BC%80%E6%BA%90%E7%81%B5%E6%B4%BB%E9%AB%98%E6%80%A7%E8%83%BD%E7%9A%84%E6%8E%A8%E7%90%86%E7%B3%BB%E7%BB%9F/ Mon, 14 Mar 2022 18:02:18 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E4%B8%B0%E5%AF%8C%E7%94%9F%E6%80%81%E7%88%B1%E5%A5%87%E8%89%BA%E5%BC%80%E6%BA%90%E7%81%B5%E6%B4%BB%E9%AB%98%E6%80%A7%E8%83%BD%E7%9A%84%E6%8E%A8%E7%90%86%E7%B3%BB%E7%BB%9F/ 来源：爱奇艺技术产品团队 为弥补目前社区在生产环境可用的支持 GBDT 模型、GBDT+FM 二分类模型及 GBDT+FM 多分类模型 部署的推理系统的空白，爱奇艺设计开发了灵活、高性能的 XGBoost Serving 推理系统，并在内部多个业务落地使用。近期，爱奇艺决定将这一系统 开源，本文将详细介绍项目 开发背景、系统实践、系统特性和架构