等不来自家大模型,火山引擎先搭了一个模型“货架” 每日热闻
文|周鑫雨编辑|邓咏仪尚未推出自研模型基座的字节跳动,先和第一梯队的
文 | 周鑫雨
编辑 | 邓咏仪
【资料图】
尚未推出自研模型基座的字节跳动,先和第一梯队的模型厂商攒了个局。
6 月 28 日,字节跳动云服务平台火山引擎推出了大模型服务平台 " 火山方舟 ",面向企业提供包括精调、评测、推理等在内的模型服务。
这个时间点并不算早。此前,BTA、商汤、360 等国内互联网企业已经纷纷推出了 MaaS(模型服务)平台,抢占先发优势。多数 MaaS 平台的服务模式大同小异:以厂商自研的通用大模型或数个行业大模型为基座,再推出相应的模型服务。
姗姗来迟的字节走的是差异化路线。没有自研模型基座,那就拉强者组局——火山方舟宛如国内第一梯队模型厂商的 " 陈列柜 ",集成了智谱 AI、MiniMax、百川智能、出门问问、复旦大学 MOSS、IDEA 研究院、澜舟科技七家科技公司及科研机构的大模型。
火山引擎总裁谭待性价比、低成本是火山方舟强调的第一个特性。
随着 AI 赛道从大炼模型的投入期,逐渐到了落地场景的应用期,愈来愈多做 AI 应用的厂商开始重视模型服务的 " 性价比 "。火山引擎总裁谭待在采访中指出:" 一个企业未来一定会在多个场景应用多个模型,因为每个模型在不同场景性价比是不一样的。"
与此同时,火山引擎智能算法负责人吴迪判断,训练大模型很昂贵,但是从长期来看,模型的推理开销会超过训练开销。
谭待在访谈中打了个比方:大模型好比工资高的博士,不少应用场景则好比小学数学题,付费让博士去解小学数学题显然是不合理的——这也迫使不少厂商选择精调后的中小模型,在获得媲美大模型效果的同时,降低推理成本。
组团合作的亮点在于,可让用户像搭积木一样选择适应自身业务需求、且具高性价比的模型组合。与此同时,火山方舟还提供了模型精调和评测服务,客户可同时对接多家大模型,并通过自动化和人工评估精调后的模型效果。
数据安全,则是火山方舟强调的第二个特点。
大模型私有化部署是目前最为安全的方案,也是国内客户更容易接受的形式,但也意味着企业将承担更高的部署成本。为此,火山方舟推出了大模型安全互信计算方案,用计算隔离、存储隔离、网络隔离、流量审计等方式保证模型的机密性、完整性和可用性——简而言之,就是给不同企业的数据分别建了保险柜。
但相对地,企业也需要牺牲部分的训练推理速度。吴迪指出,大模型安全互信计算方案适用于对训练和推理延时要求较低的客户;火山正在与英伟达合作,基于英伟达新一代硬件探索安全方案。
不过,卖模型弹药的字节,最终仍会亲自上大模型的战场。强调火山引擎本身不训练模型的同时,谭待表示:" 字节内部其他团队,如果做好了模型,大概也会上到方舟平台上对外提供,它在方舟上就是众多模型的一个。"
欢迎交流!关键词:
文|周鑫雨编辑|邓咏仪尚未推出自研模型基座的字节跳动,先和第一梯队的
新京报讯(记者陈琳)暑期即将来临,未成年人网络保护受到关注。6月29
=扇形面积公式,=,=,=≠判断下列结论是否正确==题型一 角
6月29日消息,在ZV-E1发售三个月后,索尼为这款Vlog相机注入了新的活力。
1、栖幽寺村位于湖屯镇政府驻地北9公里陶山西麓阳坡上。有耕地333亩,6
一般不能。依据我国相关法律的规定,故意伤害造成他人重伤的,犯罪情节
1、在飞车官方论坛的体验服专区下载和申请。2、飞车新版本公开之前要现
北京楼市里面期待北京放松限购政策,放松限贷政策的人又开始增加了。只
1、驼峰鼻矫正相对来说比鹰钩比来说比较简单一些,对于驼峰鼻目前来讲
截至2023年6月29日收盘,包钢股份(600010)报收于1 78元,上涨0 0%,换
交易商品牌 产地交货地最新报价2-氯丙酸乙酯 规格:200kg,含量:99%济
1、亲,你好~您需要的资源正在发送中稍等一会就会收到~如果收件箱中找
篇文章,小升来为大家解答以上问题。网络广告的类型有什么,看看都有什
6月29日,河南邓州市古城街道办事处通报称,28日20时45分,古城广场五
据中国驻美国大使馆网站消息,近日,有中国公民向中国驻美国大使馆反映
1、“人类利益高于一切。2、”——戈尔巴乔夫。本文到此分享完毕,希望
6月28日晚间,第一创业公告称,公司董事长刘学民因年龄原因辞去董事长
奔腾壮美的长江。
三星在2023年CES展会上首次公开了他们的5K分辨率专业显示器三星ViewFin
6月26日10时20分许,山东东营经开区艺馨路发生一起刑事案件,犯罪嫌疑