IBM、Nvidia 和 Bloomberg 吹捧 KServe 成为 LF AI & Data Foundation 的孵化项目(该公告是在 KServe 0.8 发布之前发布的)

IBM 和彭博社周四宣布,KServe 将加入 LF AI & Data Foundation ,作为其最新的孵化项目。 KServe 提供 Kubernetes 自定义资源定义,用于在任意框架上提供机器学习模型,并支持包括 Watson Assistant 在内的多个 IBM 产品。

  IBM 和彭博社周四宣布,KServe 将加入 LF AI & Data Foundation ,作为其最新的孵化项目。 KServe 提供 Kubernetes 自定义资源定义,用于在任意框架上提供机器学习模型,并支持包括 Watson Assistant 在内的多个 IBM 产品。

  Bloomberg、Google、IBM、Nvidia、Seldon 和其他组织与 KServe 项目社区合作,将其作为开源发布和发布。

  在博客文章中,IBM 的 Animesh Singh 和 Bloomberg 的 Dan Sun 和 Alexa Griffith 表示,他们代表 KServe 社区发言,并吹捧 LF AI & Data Foundation 的工作“建立一个生态系统以维持人工智能和数据开源项目的创新。”

  据两家公司称,KServe 旨在通过为 TensorFlow、XGBoost、Scikit-learn、PyTorch 和 ONNX 等常见 ML 框架提供高性能、高度抽象的接口来解决生产模型服务用例。

  “KServe 封装了自动缩放、网络、健康检查和服务器配置的复杂性,为您的 ML 部署带来了 GPU 自动缩放、缩放到零和 Canary 推出等尖端服务功能。它为生产提供了一个简单、可插入和完整的故事ML Serving,包括预测、预处理、后处理和可解释性,”Singh、Sun 和 Griffith 说。

  IBM 首席技术官兼 Watson AI 总监 Animesh Singh 表示,该公司既是 KServe 的联合创始人,也是采用者。 Singh 表示,数十万个模型同时运行用于互联网规模的 AI 应用程序,例如 IBM Watson Assistant 和 IBM Watson Natural Language Understanding。

  此外: IBM 拆分 100 天后,Kyndryl 与 AWS 签署战略云协议

  Singh 补充说,IBM 的 ModelMesh 是开源的,可作为 KServe 项目的一部分使用,它解决了昂贵的容器管理挑战,有效地允许他们在单个生产部署中以最小的占用空间运行数十万个模型。

  Nvidia 加速计算产品管理高级总监 Paresh Kharya 解释说,Nvidia Triton 推理服务器与 KServe 同步工作,通过其无服务器推理框架封装了 Kubernetes 中 AI 部署和扩展的复杂性。

  “Nvidia 继续积极参与 KServe 开源社区项目,以支持轻松大规模部署 AI 机器学习模型,”Kharya 说。

  据彭博社人工智能工程负责人 Anju Kambadur 称,KServe 还在帮助彭博社扩大其在彭博终端和其他企业产品中对人工智能的使用。 Kambadur 解释说,Bloomberg 希望快速从构思到原型再到生产,并且需要确保模型在构建后无缝演变以适应数据的变化。

  “这不仅对于更快地构建更好的产品很重要,而且对于确保我们释放 AI 研究人员的创造潜力而不用编写大量样板代码给他们带来负担。在这方面,我既兴奋又感激 KServe,它布隆伯格帮助创建并领导了发展,取得了这样的进步,”坎巴杜尔说。

   pasteed-image-0-4.png

  LF 人工智能与数据基金会

  流行的韩国搜索引擎 Naver Search 的软件工程师 Mark Winter 补充说,KServe 使他们能够对其 AI 服务基础设施进行现代化改造,并提供处理昼夜循环之间流量扩展差异所需的工具。

  “通过在 Knative 和 Kubernetes 之上提供标准化接口,KServe 使我们的 AI 研究人员能够专注于创建更好的模型并将他们的辛勤工作投入生产,而无需成为交付和管理高可用性后端服务的专家,”Winter 说。

  该公告是在 KServe 0.8 发布之前发布的,一位发言人表示,该版本将具有新的 ServingRuntime 自定义资源、ModelMesh 多命名空间协调、改进的 CloudEvent 和 gRPC 支持以及 KServe v2 REST API 与 TorchServe 集成等功能。

  根据发言人的说法,v1.0 的路线图具有稳定的 API,统一了 ModelMesh 和单一模型服务部署以及更高级的推理图功能。

声明:所有白马号原创内容,未经允许禁止任何网站及个人转载、采集等一切非法引用。本站已启用原创保护,有法律保护作用,否则白马号保留一切追究的权利。发布者:白马号,转转请注明出处:https://www.bmhysw.com/article/4961.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
白马号白马号

相关推荐

  • 向日葵远程控制电脑的详细步骤和方法,新手必看

    向日葵远程控制电脑的详细步骤和方法 一、了解向日葵 向日葵是一款免费的远程控制软件,支持Windows、macOS和Linux操作系统 向日葵可以实现远程桌面、文件传输、远程协助等功能 向日葵使用简单,用户体验良好 二、下载和安装向日葵 前往向日葵官网下载软件安装包 双击安装包进行安装 安装完成后,打开向日葵软件 三、设置向日葵 点击“设置”按钮,进入设置界…

    2023-05-20
    00
  • 新版microsoft edge浏览器下载速度慢怎么办(教你一招轻松解决)

    关于下载工具,老刘在之前的文章中,分享过下载神器IDM,谷歌下载插件Chrono,都是十分靠谱好用的下载工具,而今天老刘不分享软件,而是教大家一个方法,可以免费开启 Chrome / Edge “隐藏”自带的多线程下载功能,让你的下载速度快到飞起。 一、方法介绍 其实很多小伙伴不知道,Chrome和Edge是自带多线程下载的,只是一般情况下是默认关闭的,我们…

    2022-05-19
    00
  • Win10系统哪个版本好?最好用的Win10系统下载

    Win10系统哪个版本好?最好用的Win10系统下载 概述 Windows 10 Home版 Windows 10 Pro版 Windows 10 Enterprise版 结论 概述 Windows 10是微软公司推出的操作系统,它是Windows家族中最新的版本,也是目前最受欢迎的操作系统之一。然而,Windows 10有几个不同的版本,如何选择最适合自己…

    2023-08-26
    00
  • Win10精简版如何安装microsoft km-test?Win10精简版安装microsoft km-test方法

    Win10精简版如何安装microsoft km-test?Win10精简版安装microsoft km-test方法 背景介绍 安装前的准备工作 microsoft km-test安装步骤 常见问题解决方法 背景介绍 Microsoft KM-Test是一款用于测试Windows驱动程序的工具。但是在Win10精简版上,由于缺少许多系统组件,因此可能会遇到…

    2023-08-24
    00
  • Win10声卡驱动怎么更新?Win10更新声卡驱动的方法

    Win10声卡驱动怎么更新?Win10更新声卡驱动的方法 为什么需要更新声卡驱动? 如何查看当前的声卡驱动版本? 如何更新Win10声卡驱动? 为什么需要更新声卡驱动? 声卡驱动是计算机硬件设备的重要部分,它负责将计算机的数字信号转换为模拟信号,使得我们可以听到声音。如果声卡驱动过时或者出现了问题,可能会导致声音出现杂音、无法播放等问题。 因此,定期更新声卡…

    2023-07-27
    00

联系我们

QQ:183718318

在线咨询: QQ交谈

邮件:183718318@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信