大模型落地需要“记忆力”,这家公司想为向量数据库正名 | 把脉大模型
2023-08-07 11:38:59 来源:界面新闻
现实生活中若两人进行对话,大致需要三步流程:一方首先抛出话题作引子;另一方会先调动记忆判断自己是否了解这个话题,然后再分析给出应该做出何种回答。如此循环往复直到互动结束,而此次对话又会作为一种新的“记忆”被双方吸收。
【资料图】
为让计算机完成这样的互动过程,并持续在一对一或一对多的情况下变成日常,AI科学家提出了CVP结构,即“ChatGPT(以ChatGPT为代表的大模型)+Vector Database(向量数据库)+Prompt(提示词)”,分别承担计算机分析、记忆、引子的功能。
向量数据库作为计算机记忆体一般的存在,正吸引着大批投资人和创业者的关注。向量数据库创业公司Zilliz的创始人兼CEO谢超告诉界面新闻,大模型落地,从数据的角度要面对的重要现实就是计算同存储的分离,即大模型属于厂商,而数据属于用户。“国内几乎所有主流的大模型厂商上半年上门找我们聊合作,都迫切想知道一件事——大模型如何跟向量数据库配套使用,或者说计算和存储如何结合并实现低成本的重复使用。”
向量数据库是一种专门处理(主要包括存储和检索)非结构化数据的新型数据库。传统的数据库主要处理由行、列二维表格方式存储的结构化数据,这类数据具有标准化的格式,较为容易做量化分析。而非结构化数据是指那些高维度、难以量化的抽象数据,通常需要特定的数据结构来组织,且不易分析。现实生活中,非结构化数据以各种形式出现,包括文本、图像、音视频以及未来多模态呈现更为复杂多元的表情、体态等数据。
结构化数据,一本书的信息按照ISBN码、年份、署名、作者就可转化为二维表格非结构化数据,一个完整句子需要结合上下文语境,按语义分割将每个单词转化为三维乃至更高维的向量矩阵
以OpenAI背后的GPT模型预训练所用的数据为例,GPT-3.5的“知识库”共包含3000亿单词的数据,汇聚了来自开源语料库、维基百科、各类图书与新闻报道、Reddit与Twitter平台文章等大量互联网文本数据。GPT-4在此基础上体量更大,且为了支持多模态专门收集各类图像、视频素材,这其中非结构化数据应占有极大比重。同时,随着大模型朝着多模态趋势的迭代,非结构数据的数量势必将呈指数级增长。
根据IDC、Gartner等市场调研机构的估算,真实世界中绝大多数数据(约80%)都为非结构化数据,只有少量(约20%)为结构化数据。然而正如冰山效应所喻示的“巨大的冰山往往是八分之一浮在水面上,八分之七沉没在水面之下”,非结构化数据结构复杂且难处理,反而导致有效利用率远低于结构化数据。因此,打造面向非结构化数据的向量数据库也变成了一场从0到1的拓荒。
Zilliz成立于2017年,总部位于硅谷,是最早一批探索向量数据库的先行者。以大模型诞生为分水岭,公司的成长历程可分为“前大模型时期”和“后大模型时期”。
在前大模型时期,向量数据库的技术理念并未有统一的定义,市场上也未有同类产品模式可作参照。Zilliz起步只能在无人区中开拓新赛道,客户、投资、应用场景都是未知数。“我们做向量数据库的前几年几乎没有任何收入,全靠融资生存,但那时候说服投资人是一件很困难的事情。招聘工程师、找客户、拉投资,不确定性几乎来自方方面面,这也成为Zilliz的常态。”
2019年,Zilliz开源了全球首个向量数据库产品Milvus,目前在GitHub上获得了超过2.1万颗Star,是开源圈内的明星项目,也给公司带来了第一批用户。同时,团队发表的向量数据库相关的两篇论文,也在2021和2022连续两年入选了数据库领域国际顶级会议SIGMOD和VLDB。在创始人眼中,Zilliz前几年所做的工作都在一步步将向量数据库推向主流视野的关注范围内。
后大模型时期,ChatGPT的爆发则彻底改变了向量数据库的发展速度。2023年3月,在英伟达全球开发者大会上,黄仁勋力挺向量数据库对构建专有大型语言模型的重要价值,同时点名Milvus。紧接着,Milvus和Zilliz Cloud又成为了OpenAI官方首批plugin合作的向量数据库。
资本和竞争对手随即迅速涌入这一赛道。其实,早在2022年8月,Zilliz就完成了累计超过 1.03亿美元的B轮融资,由沙特阿美Aramco Ventures旗下基金领投,现有股东淡马锡、高瓴创投、五源资本和云启资本跟投,估值达6亿美元。另外一家OpenAI官方合作的向量数据库公司Pinecone最新宣布获得a16z领投的1亿美元,估值达7.5亿美元。今年4月,有4家向量数据库创业公司宣布当月获得融资。大模型厂商也纷纷开始着手布局自家的向量数据库,腾讯、京东均有对外公开的向量数据库产品。
参考美国2022年上市的数据库公司Snowflake以及还未上市的独角兽公司Databricks,融资规模都已达到数十亿美元。向量数据库如今已经走完了为赛道“正名”的第一步,目前处在产业化的开端。而数据库行业先天具有高资本投入、高技术门槛的特点,一款数据库通常需要经过成百上千的工程师研发迭代,技术产品的工程积累预计将成为该赛道竞争的决定性条件。
前大模型时期通过搞科研、发论文、做开源为向量数据库正名后,处于后大模型时期的Zilliz将2023年视为“商业化元年”。
在开源产品Milvus之外,公司将云服务产品Zilliz Cloud作为商业化的关键。Zilliz Cloud可以帮助企业用户构建十亿级向量数据库,部署和扩展向量搜索服务,收费模式分为存储收费(按数据规模与存储时间)与计算收费(按机器数与运行的小时数)。这也是该公司进一步稳固市场的核心所在。
关键词:
为你推荐
-
大模型落地需要“记忆力”,这家公司想为向量数据库正名 | 把脉大模型
-
Noise ColorFit Spark已在国内以实惠的价格推出
-
金力永磁:8月4日融券卖出26.94万股,融资融券余额6.09亿元
-
强降雨过后 日常生活要注意些什么?这份健康小贴士请收好
-
上周债券承销金额较高的机构为中信证券、中信建投证券和中国建设银行
-
河南你早 | 郑州亚细亚“重启”;舒兰常务副市长等3人在抢险救灾中牺牲;美媒:中俄军舰“罕见”逼近阿拉斯加
-
dnf奶爸刷图加点110级2022(dnf奶爸刷图加点)
-
快手电商推出核心品牌补贴频道
-
2023中国·新疆喀什第八届伽师新梅展销会开幕
-
校园全能高手有几个女主角 校园全能高手结局
-
90平轻美式三居室,歪打正着让餐厅很好地融入客厅中
-
洛阳古墓博物馆现在开放了吗(洛阳古墓博物馆)
-
【怪兽日报】系列 2023.7.31~2023.8.6. 周内容汇总
-
2012款凯美瑞2.5g豪华版(2012款凯美瑞2.5G豪华导航版正确使用)
-
好闺蜜!全红婵摘银被英国铜牌公主抱庆祝,两人情同姐妹笑比剪刀手
-
【转会中心】内马尔将回归巴萨?丨国米签萨马尔季奇HWG
-
华西证券给予长城汽车买入评级
-
最高院:已拥有宅基地的村民,无权继承其他地块的宅基地使用权
-
拉布拉多寻回猎犬图片(拉布拉多巡回猎犬)
-
江西师范大学数媒环艺视传产品服装考研历年真题
推荐内容
- 大模型落地需要“记忆力”,这家公司想为向量数据
- Noise ColorFit Spark已在国内以实惠的价格推出
- 金力永磁:8月4日融券卖出26.94万股,融资融券余
- 强降雨过后 日常生活要注意些什么?这份健康小
- 上周债券承销金额较高的机构为中信证券、中信建投
- 河南你早 | 郑州亚细亚“重启”;舒兰常务副市
- dnf奶爸刷图加点110级2022(dnf奶爸刷图加点)
- 快手电商推出核心品牌补贴频道
- 2023中国·新疆喀什第八届伽师新梅展销会开幕
- 校园全能高手有几个女主角 校园全能高手结局
- 90平轻美式三居室,歪打正着让餐厅很好地融入客厅
- 洛阳古墓博物馆现在开放了吗(洛阳古墓博物馆)
- 【怪兽日报】系列 2023.7.31~2023.8.6. 周内容汇总
- 2012款凯美瑞2.5g豪华版(2012款凯美瑞2.5G豪华导
- 好闺蜜!全红婵摘银被英国铜牌公主抱庆祝,两人情同
- 【转会中心】内马尔将回归巴萨?丨国米签萨马尔季
- 华西证券给予长城汽车买入评级
- 最高院:已拥有宅基地的村民,无权继承其他地块的
- 拉布拉多寻回猎犬图片(拉布拉多巡回猎犬)
- 江西师范大学数媒环艺视传产品服装考研历年真题
- 计提盈余公积会计分录要结转吗 计提盈余公积会计
- 三菱要放大招!全新一代帕杰罗亮相,比霸道还气派
- 四惠长途汽车站网上订票官网(四惠长途汽车站网上
- 一个无线ap覆盖范围 无线ap覆盖范围
- 蔚来汽车拒绝向“小牛说车”(自媒体)出售车辆!
- 德天空:曼联视格雷茨卡为完美8号位人选,尤文等4
- 山东省潍坊市2023-08-06 04:48发布暴雨蓝色预警
- rar密码破解工具是什么手机版(rar密码破解工具)
- 国安曝出罕见动作,间谍一直在你我身边,清除间谍
- 外媒称迪士尼要拍真人版《魔发奇缘》:可能还是黑
- hanser的异世界冒险(2)
- 合伙企业如何纳税个人所得税(合伙企业如何纳税)
- 评分越高,生意越好!如何玩转评分?一图看懂
- 巨齿鲨2全球首映礼在哪 《巨齿鲨2》首映票房何以
- 突然更名,一夜掉粉40万!网友:青春结束了
- 直落两局淘汰周天成,翁泓阳晋级澳大利亚公开赛男
- 美洲多地深陷超负荷移民潮 美墨新协议加速移民到来
- 快带上你的得意之作来参加艺术嘉年华——“青韵”
- 一加首款折叠屏手机渲染图曝光:屏幕更大,相机更
- 省会城市“卡位战”:三城增速超9%,合肥险胜济南
油气
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
经济
-
中新网杭州10月18日电 (王题题 胡燕婕)云天收夏色,浅秋正渐浓。10月18日,浙江杭州市西湖游船有限公司推出的惠民多站点“西湖环湖游
-
中国税务机关处罚一名艺人经纪人 中新社北京10月18日电 (记者 赵建华)上海市税务局第一稽查局前期在艺人郑爽偷逃税案件检查过程中
-
中新网兰州10月18日电 (闫姣 艾庆龙 吉翔)“红山白土头,黄河向西流。”不少人疑问,天下黄河向东流,为何甘肃永靖县这段黄河却向西
-
中新网北京10月18日电 《清华城市健康设施指数》18日在北京发布。报告成果显示,城市健康设施指数领先城市以中心城市和东部沿海城市
-
中新网安徽黄山10月18日电 (刘浩 黄启宝 汪娜)10月17日至18日,安徽省黄山市当地民警先后救助国家一级保护动物白锦长尾稚和野生梅花