用户案例|Milvus 助力 Credal.AI 实现 GenAI 安全与可控

AIGC 时代,企业流程中是否整合人工智能(AI)对于的企业竞争力至关重要。然而,随着 AI 不断发展演进,企业也在此过程中面临数据安全管理、访问权限、数据隐私等方面的挑战。

为了更好地解决上述问题,Credal.AI(以下简称 “Credal”) 提供的解决方案使组织能够在释放生成式人工智能(GenAI)潜力的同时降低其风险。Credal 解决方案的核心向量数据库 Milvus,在 Milvus 的加持下,Credal 能够更好地实现其企业愿景——【打造安全且实用的 AI】 。

01.Credal:GenAI 与企业数据安全间的桥梁

Credal 的目标是使企业能安全且方便地使用 GenAI。为此,Credal 提供了强大的数据集成和治理功能,能从 Microsoft Office、Google Workspace 以及 Slack 等多种平台中拉取数据。他们推出了类似于“Okta 的 AI 版本”,从而严格管理访问和权限,以便为开发者和终端用户提供一个流畅且安全的接口。因此,Credal 成为一个端到端的解决方案,支持安全、企业级的 GenAI 部署。

alt

从用户的角度来看,他们无需精通编码或复杂的算法便可利用大量数据,发挥 GenAI 的力量。用户能够使用 Credal 创建代理,确保能够最大化利用 GenAI 技术。

对于管理员和 IT 团队,Credal 提供了监控数据和管理工具,包括强制根据使用条款实施、审计跟踪、日志记录、数据目录和数据治理等功能。这些功能都是在大型企业中高效部署 GenAI 的关键部分。用户可以通过 Credal 的聊天界面或 API 使用诸多重要功能,如 PII 删除、审计日志、数据访问控制等。

02.Credal 痛点:缺乏生产就绪的向量数据库

在 Credal AI 产品开发的初期阶段,公司遭遇了多个挑战。其中一个核心功能是语义搜索,但发现使用基本的向量搜索插件在大规模实现这个功能颇为困难。当语义搜索被嵌入到需要高数据库性能的定制工作流中时,这些挑战变得更为严重。为了构造这些由 GenAI 驱动的工作流,需要对传统的搜索机制进行改进,因为这些工作流需要根据复杂、用户定义的标准实时处理大量数据集。

另外,由于拥有多种托管环境,包括云基础设施和现场部署,Credal 需要有一个可以自我托管,且得到活跃开源社区支持的向量数据库,一个快速、可扩展且多功能的数据库,以应对复杂的数据管道和多种托管条件的需求。而在进行技术选型的过程中,Credal 发现市面上有许多向量数据库解决方案,但都无法满足其企业级的需求。

03.选择 Milvus:以开发者为核心的全能向量数据库

经过对众多市面上主流的向量数据库的评估,评估指标包括:是否支持自托管、可扩展性、是否拥有庞大的社区。

Milvus 在评估中脱颖而出。Milvus 在 GitHub 上获星超过 24 K,拥有高度活跃的社区,且处于不断迭代的过程中,高频推出新功能。

首先,Milvus 不断升级的特性是 Credal 考虑的重点,特别是其混合搜索功能,能够在执行向量搜索的同时过滤其他元数据。尽管许多解决方案提供了快速的向量搜索,但在处理结构化数据方面却显得力不从心。Milvus 的混合搜索能力完美解决了这一技术缺口,解决了实际的商业问题。

其次,Milvus 为 Kubernetes 提供的官方 Helm Chart 同样是 Credal 考虑的重点。尽管自定义 Helm Chart 不是难事,但官方支持的 Chart 却体现了 Milvus 对开发者成功的承诺。Credal 认为这体现了 Milvus 团队不追求短期利益,而是致力于解决用户面临的实际挑战。尤其是对于 Credal AI 这样的初创企业来说,这种支持极为宝贵,Milvus 可以帮助他们简化部署流程,节省时间和工程资源。

再者,Milvus 从架构设计上,将计算和存储分离,因此具备高度的灵活性和可扩展性。与单节点的数据库架构不同,Milvus 的架构支持灵活扩展,从而应对不断变化的需求。

Credal 联合创始人兼首席技术官 Jack Fischer 强调了这种架构设计的优越性:“刚开始搭建平台时,我们并不能确切知道后续的访问模式会是什么样的。随着我们的产品发展,访问模式肯定会随之变化......所以,我们很庆幸采用了 Milvus 这种存储和计算分离的向量数据库。无论我们如何发展产品,Milvus 能够满足我们的业务需求,我们对此充满信心。”

04.结果:Milvus 助力 Credal 搭建高效、可扩展的平台

对于 Credal AI 来说,采用 Milvus 无疑改变了整个游戏局面,为他们复杂的向量搜索需求提供了坚实的基础。Milvus 的技术能力迅速消除了他们对数据库性能的初步疑虑。在创业公司常面对不断变化需求的场景中,Milvus 既是即时的解决方案,也展现出长期的价值。

选择 Milvus 的决定得到了验证,它完美融入了 Credal AI 的现有系统,不仅满足了技术的前提条件,还实现了更广泛的商业目标。由于其分离的存储和计算架构,使得平台具有很高的可扩展性,这让 Credal AI 有信心预见并适应不断出现的客户需求。这也让 Credal 能够集中精力做它最擅长的事:不断优化其核心产品并促进用户参与度。他们完全放心,无论面对什么样的需求,其后端都能够应对自如。

Fisher 表示:“在我们需求的文氏图中,处在最中间的就是 Milvus,它集所有需求的交集于一身。这点是其他向量数据库都比不上的。如果只需要其中一两点功能,那可以考虑别的向量数据库。但如果需要所有功能,必然选择 Milvus。”

05.未来合作:与 Zilliz 共绘蓝图

借助 Milvus,Credal 能够为客户提供可扩展、易于使用的解决方案,而无需从头开始自行研发向量搜索解决方法。此外,使用 Milvus 并不会带来额外的运营开销。Milvus 的可扩展性和稳定性确保了 Credal 平台能够随着业务发展灵活扩展。

目前,Credal 正考虑未来与打造 Milvus 的原厂 Zilliz 合作,利用 Zilliz Cloud 为其云上客户提供服务。Credal 的公司使命和愿景是持续努力将 GenAI 功能整合到实际企业应用中,这就需要强大的安全保障和全面的数据治理。Zilliz Cloud——全托管、开箱即用的 Milvus 服务,非常契合 Credal 的商业战略,能够助其简化运营流程,优化云上客户的体验。关于未来的合作,我们拭目以待!

本文由 mdnice 多平台发布

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/226009.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

拼多多商品详情API接口丨百亿补贴商品数据丨秒杀商品数据

拼多多API接口是拼多多网提供的一种应用程序接口,允许开发者通过程序访问拼多多网站的数据和功能。通过拼多多API接口,开发者可以开发各种应用程序,如店铺管理工具、数据分析工具、购物比价工具等。在本章中,我们将介绍拼多多API接…

「薄荷绿」风电智慧运营,有效提高运营效率和能源利用率

随着能源需求的不断增加和全球变暖的加剧,人们对可再生能源的依赖程度不断提高。其中,风能作为一种可再生能源,其清洁、环保、无污染等特点备受青睐,其发展也越来越受到政府和企业的关注。然而,由于风能的不稳定性和不…

初创企业的智慧选择:解析小型企业如何借助ERP系统提升管理效率

ERP系统是不可或缺的企业技术解决方案,其全面性和综合性使其成为企业管理战略的核心组成部分;特别是对于渴望发展的小型企业和初创企业而言,ERP系统的价值更是不可忽视的。 对于大型企业,ERP系统提供了微观管理业务各个方面的能力…

JSP以监听生命周期为例 讲解监听器

好 最后 我们说说监听器 内容还是非常多的 这里 从老师哪里拿到的一个文案 大家可以查看具体内容 我们这里以监听声明周期为例 这边 我们在项目java模块下创建一个包 叫 listener 名字随便取 我们就这样 看着明显一点 然后 我们在下面创建一个java类 叫 test 因为是用来测试的…

视频集中存储/智能分析融合云平台EasyCVR平台接入rtsp,突然断流是什么原因?

安防视频监控/视频集中存储/云存储/磁盘阵列EasyCVR平台可拓展性强、视频能力灵活、部署轻快,可支持的主流标准协议有国标GB28181、RTSP/Onvif、RTMP等,以及支持厂家私有协议与SDK接入,包括海康Ehome、海大宇等设备的SDK等。平台既具备传统安…

宁夏一男子吸烟“逼”慢高铁 拘留7天 AI技术如何提升公共安全

最近,宁夏的一位男子杨某在高铁卫生间吸烟,触发了列车的烟雾报警系统,导致列车降速运行,最终被拘留7天。这个事件凸显了公共安全的重要性,特别是在交通工具上的安全管理。如果我们能够及时发现并阻止这种行为&#xff…

【论文解读】:大模型免微调的上下文对齐方法

本文通过对alignmenttuning的深入研究揭示了其“表面性质”,即通过监督微调和强化学习调整LLMs的方式可能仅仅影响模型的语言风格,而对模型解码性能的影响相对较小。具体来说,通过分析基础LLMs和alignment-tuned版本在令牌分布上的差异&#…

如何使用Docker本地搭建开源CMF Drupal并结合内网穿透公网访问

文章目录 前言1. Docker安装Drupal2. 本地局域网访问3 . Linux 安装cpolar4. 配置Drupal公网访问地址5. 公网远程访问Drupal6. 固定Drupal 公网地址 前言 Dupal是一个强大的CMS,适用于各种不同的网站项目,从小型个人博客到大型企业级门户网站。它的学习…

java--枚举

1.枚举 枚举是一种特殊类 2.枚举类的格式 注意: ①枚举类中的第一行,只能写一些合法的标识符(名称),多个名称用逗号隔开。 ②这些名称,本质是常量,每个常量都会记住枚举类的一个对象。 3.枚举类的特点 ①枚举类的…

Numpy数组的创建(第一讲)

Numpy数组的创建 (第1讲)         🍹博主 侯小啾 感谢您的支持与信赖。☀️ 🌹꧔ꦿ🌹꧔ꦿ🌹꧔ꦿ🌹꧔ꦿ🌹꧔ꦿ🌹꧔ꦿ🌹꧔ꦿ🌹꧔ꦿ&#x1f…

Modbus数据采集模块是什么?

随着工业自动化的快速发展,数据采集已成为现代工厂不可或缺的一环。在众多通信协议中,Modbus因其开放、简单、可靠的特点而广受青睐。那么,什么是Modbus数据采集模块,它又有哪些应用呢? 一、什么是Modbus数据采集模块…

打补丁,生成.diff文件

作者:爱塔居 文章目录 目录 前言 步骤 一、在根目录上,输入添加指令 二、输入修改内容指令 三、生成补丁 前言 自己的理解,仅供参考,欢迎指正。 补丁的话,在我看来就是方便评审,更方便看修改代码吧。 步骤…

2024年网络安全比赛--系统渗透测试(超详细)

一、竞赛时间 180分钟 共计3小时 二、竞赛阶段 竞赛阶段 任务阶段 竞赛任务 竞赛时间 分值 1.在渗透机中对服务器主机进行信息收集,将服务器开启的端口号作为 Flag 值提交; 2.在渗透机中对服务器主机进行渗透,在服务器主机中获取服务器主机名称&#xff…

智能优化算法应用:基于社交网络算法无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用:基于社交网络算法无线传感器网络(WSN)覆盖优化 - 附代码 文章目录 智能优化算法应用:基于社交网络算法无线传感器网络(WSN)覆盖优化 - 附代码1.无线传感网络节点模型2.覆盖数学模型及分析3.社交网络算法4.实验参数设定5.算法结果6.参考…

【C语言】程序设计加密解密

🚩write in front🚩 🔎 介绍:"謓泽"正在路上朝着"攻城狮"方向"前进四" 🔎🏅 荣誉:2021|2022年度博客之星物联网与嵌入式开发TOP5|TOP4、2021|2222年获评百大博…

三层交换机配置DHCP服务

第一步:进入二层交换机Switch 1)输入命令: Switch(config)#vlan 10 Switch(config)#vlan 20 2)修改F0/1 和F0/2为access口,F0/24为trunk口 第二步:进入三层交换机 1)输入命令 Switch(config)#…

Vulnhub项目:EMPIRE: LUPINONE

一、靶机地址 靶机地址:Empire: LupinOne ~ VulnHub 靶机描述: 来,看一看,同样的配方,不同的设计,难度为中等,迷路了就成困难了,不得不说,还真是! 几次陷入…

kafka windows版本的下载安装,并且本地使用(亲测有效)

目录 1 问题2 下载 1 问题 本地启动一个kafka ,然后可以实现生产者 消费者 2 下载 https://downloads.apache.org/kafka/ 选择一个版本下载 下载之后解压 修改配置 修改好之后,就保存,之后先启动zookper ,之后再启动 ka…

通过内网穿透模拟私服

通过内网穿透模拟私服nexus 1.问题引出 在学习黑马程序员2023新版JavaWeb开发教程的maven高级时,需要用到私服,黑马提供的资料中私服地址不能使用,需要自己搭建一个私服。 若使用传统的方式将私服部署到本地PC无法模拟真实的私服连接情况&…

VINS编译, opencv多版本的原因导致的问题

1. 通用问题 问题一 编译时报错 error: ‘CV_GRAY2RGB’ was not declared in this scope 等 解决方法 在报错文件上添加头文件 #include <opencv2/imgproc/imgproc_c.h> 单独遇到CV_AA的报错时&#xff0c;也可以将 CV_AA 改为 cv::LINE_AA 问题二 编译时报错 erro…