IBM、Nvidia 和 Bloomberg 吹捧 KServe 成为 LF AI & Data Foundation 的孵化项目(该公告是在 KServe 0.8 发布之前发布的)

IBM 和彭博社周四宣布,KServe 将加入 LF AI & Data Foundation ,作为其最新的孵化项目。 KServe 提供 Kubernetes 自定义资源定义,用于在任意框架上提供机器学习模型,并支持包括 Watson Assistant 在内的多个 IBM 产品。

  IBM 和彭博社周四宣布,KServe 将加入 LF AI & Data Foundation ,作为其最新的孵化项目。 KServe 提供 Kubernetes 自定义资源定义,用于在任意框架上提供机器学习模型,并支持包括 Watson Assistant 在内的多个 IBM 产品。

  Bloomberg、Google、IBM、Nvidia、Seldon 和其他组织与 KServe 项目社区合作,将其作为开源发布和发布。

  在博客文章中,IBM 的 Animesh Singh 和 Bloomberg 的 Dan Sun 和 Alexa Griffith 表示,他们代表 KServe 社区发言,并吹捧 LF AI & Data Foundation 的工作“建立一个生态系统以维持人工智能和数据开源项目的创新。”

  据两家公司称,KServe 旨在通过为 TensorFlow、XGBoost、Scikit-learn、PyTorch 和 ONNX 等常见 ML 框架提供高性能、高度抽象的接口来解决生产模型服务用例。

  “KServe 封装了自动缩放、网络、健康检查和服务器配置的复杂性,为您的 ML 部署带来了 GPU 自动缩放、缩放到零和 Canary 推出等尖端服务功能。它为生产提供了一个简单、可插入和完整的故事ML Serving,包括预测、预处理、后处理和可解释性,”Singh、Sun 和 Griffith 说。

  IBM 首席技术官兼 Watson AI 总监 Animesh Singh 表示,该公司既是 KServe 的联合创始人,也是采用者。 Singh 表示,数十万个模型同时运行用于互联网规模的 AI 应用程序,例如 IBM Watson Assistant 和 IBM Watson Natural Language Understanding。

  此外: IBM 拆分 100 天后,Kyndryl 与 AWS 签署战略云协议

  Singh 补充说,IBM 的 ModelMesh 是开源的,可作为 KServe 项目的一部分使用,它解决了昂贵的容器管理挑战,有效地允许他们在单个生产部署中以最小的占用空间运行数十万个模型。

  Nvidia 加速计算产品管理高级总监 Paresh Kharya 解释说,Nvidia Triton 推理服务器与 KServe 同步工作,通过其无服务器推理框架封装了 Kubernetes 中 AI 部署和扩展的复杂性。

  “Nvidia 继续积极参与 KServe 开源社区项目,以支持轻松大规模部署 AI 机器学习模型,”Kharya 说。

  据彭博社人工智能工程负责人 Anju Kambadur 称,KServe 还在帮助彭博社扩大其在彭博终端和其他企业产品中对人工智能的使用。 Kambadur 解释说,Bloomberg 希望快速从构思到原型再到生产,并且需要确保模型在构建后无缝演变以适应数据的变化。

  “这不仅对于更快地构建更好的产品很重要,而且对于确保我们释放 AI 研究人员的创造潜力而不用编写大量样板代码给他们带来负担。在这方面,我既兴奋又感激 KServe,它布隆伯格帮助创建并领导了发展,取得了这样的进步,”坎巴杜尔说。

   pasteed-image-0-4.png

  LF 人工智能与数据基金会

  流行的韩国搜索引擎 Naver Search 的软件工程师 Mark Winter 补充说,KServe 使他们能够对其 AI 服务基础设施进行现代化改造,并提供处理昼夜循环之间流量扩展差异所需的工具。

  “通过在 Knative 和 Kubernetes 之上提供标准化接口,KServe 使我们的 AI 研究人员能够专注于创建更好的模型并将他们的辛勤工作投入生产,而无需成为交付和管理高可用性后端服务的专家,”Winter 说。

  该公告是在 KServe 0.8 发布之前发布的,一位发言人表示,该版本将具有新的 ServingRuntime 自定义资源、ModelMesh 多命名空间协调、改进的 CloudEvent 和 gRPC 支持以及 KServe v2 REST API 与 TorchServe 集成等功能。

  根据发言人的说法,v1.0 的路线图具有稳定的 API,统一了 ModelMesh 和单一模型服务部署以及更高级的推理图功能。

声明:所有白马号原创内容,未经允许禁止任何网站及个人转载、采集等一切非法引用。本站已启用原创保护,有法律保护作用,否则白马号保留一切追究的权利。发布者:白马号,转转请注明出处:https://www.bmhysw.com/article/4961.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
白马号白马号

相关推荐

  • 手机wifi被别人禁用了怎么解除(蹭网被拉黑还能破解吗)

    遇到这种情况,你很可能已经被WIFI主人‘拉黑’,路由器Mac地址过滤一般有两种模式:一是白名单,二是黑名单。而被‘拉黑’就是第二种,你的Mac地址被加入了路由器的黑名单里,所以就算知道密码甚至pin也连不上WIFI,那怎么办呢?那怎么办呢?那怎么办呢? 当然是改Mac啦~~啦啦啦~~~ 虽然改Mac方法很多,不过大都要Root,现在分享个不要Root的方法…

    2022-05-05 投稿
    00
  • flac怎么转mp3免费软件(win11flac批量转mp3工具介绍)

    今天给大家介绍一个功能强大的,免费的文件格式转化器,转化工具:File Converter。 File Converter是一个非常简单的文件格式转化工具,它允许我们使用 Windows 资源管理器中的上下文菜单来转换和压缩一个或多个文件;而且这个工具是完全免费使用,转化的速度快,转化的质量也相当高。这个文件格式转化器的界面设计得尽可能轻巧,以保持应用程序的…

    2022-06-27
    00
  • Win10应用商店没有网络?Win10应用商店无网络解决方法

    Win10应用商店没有网络?Win10应用商店无网络解决方法 Win10应用商店无网络的原因 Win10应用商店无网络解决方法 总结 Win10应用商店无网络的原因 在使用Win10操作系统时,有时会遇到应用商店无法连接网络的情况。造成这种情况的原因有很多,以下是其中几个可能的原因: 网络连接问题:Win10应用商店需要连接网络才能正常运行,如果网络连接不稳…

    2023-08-02
    00
  • Win10笔记本电脑怎么关闭Numlock键?

    Win10笔记本电脑怎么关闭Numlock键? 什么是Numlock键? 如何关闭Numlock键? 小结 什么是Numlock键? Numlock键是一种存在于大部分键盘上的按键,可以将数字键盘上的数字键切换为数字输入模式。在开启Numlock键的情况下,当你按下数字键盘的数字键时,计算机会将其识别为数字而非方向键或其他功能键。 如何关闭Numlock键?…

    2023-08-24
    00
  • 电脑桌面空白怎么恢复?(桌面图标恢复方法解析)

    电脑桌面空白怎么恢复?(桌面图标恢复方法解析) 桌面图标消失的原因 恢复桌面图标的解决方法 总结 桌面图标消失的原因 在使用电脑的过程中,有时会出现桌面图标消失的情况,这可能是由以下原因引起的: 系统错误 桌面图标被误删除 桌面图标被隐藏 系统病毒感染 恢复桌面图标的解决方法 针对以上原因,我们可以采用以下方法来恢复桌面图标: 方法一:重启电脑 有时候,桌面…

    2023-05-27
    00

联系我们

QQ:183718318

在线咨询: QQ交谈

邮件:183718318@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信