第二百八十五章 喵~
道断修罗小说推荐阅读:和离后,神医王妃野翻全京城、越界心动、NBA:开局满级力量,库里被我惊呆了、龙族:从西游记归来的路明非、狐说、服软、她和暗恋的大佬官宣了、人民的财产(电视剧突围原著)、和穿来的儿子上综艺后爆红了、这游戏也太真实了、鲤鱼王的精灵模拟器、轻负、印卡是游戏王的一部分
刘彧的效率很高。
姜亦心消息发过去不到三分钟,他就回了一个会议室编号。
「下午四点半,三号会议室,韩总和苏总的会议正好结束,如果是和源码应用有关的主题,建议也邀请苏总参会。」
在大公司里,和领导预约会议的难度,非常取决於你的级别。
级别越高越好预约。
这个时间的会议一看就是在排满的日程里临时加进去的。
可见姜亦心的优先级很高了。
姜亦心的脸上露出笑容,没想到刘彧又发了一条消息过来。
「亚里士多德说过,人是天生的政治动物。」
这是在点我跨级汇报吧?嘿,我姜总惯你这个?
姜亦心直接回了一句过去:「帮我也邀请苏总,谢谢刘秘书。君子欲讷於言而敏於行。」
看看时间,离会议还有几个小时,正好可以把思路整理一下。
姜亦心坐下来打开汤圆的聊天界面和寻他搜寻引擎,开始整理关於使用大模型进行「个人成长」和「技能复用」的资料。
姜亦心一边操作一边想,汤圆也得把搜寻引擎的功能加上才行,这个功能太天然适合汤圆的使用场景了。
不查不知道,一查吓一跳,虽然在生活中使用AI的还是少数人,但是已经有很多AI的重度用户在探索不同的用法了。
想要让AI来替代其他高级职业的想法也不在少数。
有人想把AI当律师来谘询。
这有个例子,一个用户发贴:「我是个独立设计师,被甲方欠薪了,想要起诉他们,问了一圈律师的代理费用都得上万,就让ChatGPT给我出了一份起诉书,看起来引经据典很正规是没错,到了仲裁庭审的时候,对方的律师说我引用的法条根本不存在,丢人就算了,我是真丢钱啊!」
这是典型的模型幻觉问题。
更新不易,记得分享101看书网
大模型给出的法条不存在,因为大模型的训练里还有大量的文学作络资料,里面完全有可能有看起来像模像样其实不存在的法条。
更何况法条还有适用性的问题,现阶段的大模型根本无法替代拥有法律设计能力的资深律师。
还有人想把AI当医生来谘询。
一个宝妈发帖说,孩子发烧出红疹,在医院排队的时候想着等着也是等着,就把孩子的照片和症状发给AI,结果AI信誓旦旦地说这是「幼儿急疹」,回家吃退烧药就可以了,贴主不放心,又等了半小时见到医生,最後诊断是过敏导致的急性荨麻疹,差点就错过了治疗时机。
当然也有那种说早期症状医生没发现,但是却被AI诊断出来的例子,但是人命关天的事情,谁又敢真的全信AI说的话呢?
看来虽然想法都不错,但是在真的使用的过程中都有各种各样的痛点,这些人把自己的经历和想法发在网上互相交流,很多都很有价值。
目标用户的交流论坛就是产品经理的金矿啊!
姜亦心越整理越投入,不到两个小时,就搜集了几十个文档的内容。
这个时候,差不多到了午饭时间,但是姜亦心正做到兴头上,不想出去浪费时间,直接叫了外卖边吃边工作。
李婷没有打扰她,只是默默地带了奶茶回来。
按照前AI时代的流程,想要在这些原始数据中找到规律,需要她自己整理、分类、分析、挖掘。
但是有了汤圆之後,只要把所有的这些她监定过有价值的资料通通上传给汤圆,然後告诉它想要什麽样的报告,就可以出来质量非常不错的结论了。
当然,提示词怎麽输入也是一门学问,但是姜亦心已经驾轻就熟了,她自己有一个专门的文档整理常用的提示词,需要用的时候只要复制粘贴,对需求进行微调就可以了。
姜亦心一边操作一边想,这个文档不就是一个简单的「技能」吗?
花了几个小时的时间,姜亦心做出了一份诚意满满、乾货十足的调查报告,连着「汤圆成长助手」的用户反馈报告一起,就是一会开会要用的资料了。
四点半,姜亦心抱着电脑来到三号会议室门前,敲了敲门,听到苏念念在里面说「请进」,才打开门走了进去。
会议室里,韩路一和苏念念面对面坐在一起,两个人都没带电脑。
姜亦心一边在心里默默地说「又磕到了」,一边有点儿紧张地走了进来。
虽然一起工作了这麽久,姜亦心还是不习惯和两个老师一起开会。她有一个预期,一会大概率又要被考试了。
苏念念笑意盈盈地看着姜亦心:「听说你已经把上周五说的那个东西做出来了?给我们演示一下?」
「好的,苏总。」姜亦心把电脑接到屏幕上,打开了自己的人物卡界面。
还是【开拓者】的称号,里面记录了她的技能星图,以及过去的成长路线。
大概是比小牛小羊要多一些,但是又比钱晓乐少一些的程度。
简单的演示完,姜亦心看向苏念念:「苏总,您觉得怎麽样?」
苏念念没有马上回答,而是先看了韩路一一眼:「我觉得韩总一定很喜欢。」
她还有没说出来的半句话韩路一就是那种中二病宅男,虽然长得帅,但还是宅男。
韩路一笑了:「很好啊,不过只是我喜欢没有用,用户反馈怎麽样?」
姜亦心拿出了准备好的反馈报告,用数据说话。
除了她自己之外,还有五名源码内部的内测用户,普遍反馈了用户满意度高,工作积极性上升等结果。
另外就是用户强烈要求的「称号偏向选择」功能,在实用功能没有任何改变的情况下,再次提升了用户使用率和满意度。
总的来说,工作还是那份工作,但是变得更有趣了。
同时,姜亦心也亲眼看到了小牛被称号系统升级这件事吊得恨不得全身心的去工作的状态。
可见游戏化确实还是很有用的。
「另外」姜亦心顿了顿,把钱晓乐的事情讲了出来。
在游戏化的系统中还有这麽一个异类玩家,她不把游戏的数值当成评判标准,因为她在现实中已经有了系统的复盘方法。反而是因为这样,她的游戏化数值比其他用户高出一大截。
姜亦心把进度汇报完之後,苏念念和韩路一各自点了点头。
「效果很好啊,这个星期可以在全公司内部推广。」韩路一说道。
「可惜,想要商品化的话,困难重重啊。」苏念念叹了口气,感慨了一句。
这个问题三个人在周五的会议上就讨论过了。
这种「成长系统」,想要能够对用户给出准确的评价,就需要对用户进行全方位的画像,需要接触很多个人信息。
只在源码内部使用的话,所有工作相关的信息本身就是归源码所有,没有什麽隐私的问题,但是一旦想要对外推广,不管是对企业还是对个人用户,关於隐私、数据安全,都还有很长的路要走。
「没必要什麽都想着商品化嘛。」韩路一说了一句,「只要这件事情有趣、有益,我们就可以继续做下去,有的时候商机总会在不经意间出现。」
姜亦心听到这,觉得时机差不多了,她举起手。
「韩总,苏总,其实我还有个关於产品的想法,想和你们聊聊。」
苏念念其实猜到了,三人之间每周是有固定会议的,如果只是汇报「成长系统」的成绩,完全可以等到那个时候。
今天临时预约一个会议,肯定是有决策要做的。
「让小姜总这麽急,是什麽想法啊?」她笑着说道。
姜亦心打开了刚刚整理出来的资料。
《使用大模型创建可复用的专家级技能》。
然後她把是怎麽受到早期用户的启发,想到可以使用AI来制作领域专家的能力,然後在网上调查到的现状等等都讲了出来。
韩路一和苏念念对视了一眼,都能看出对方眼中的惊讶。
小姜真的是一个很敏锐的产品经理啊。
「网上很多人都有这方面的尝试了,但是我觉得主要受限於几个方面的原因,现在的AI还没有办法提供和真人专家一样级别的能力。」姜亦心说,「首先最主要的是,现在的大模型在设计之初都是被按照通才来培养的,但是当我们需要某个职业的能力的时候,我
们需要的是他的专才,比如编程、法律、设计等等。」
韩路一点点头。
这确实是个问题,而且还是源智的应用方面正在面临的挑战一汤圆在国家电网的应用落地,需要的就是电力方面的专才。
「这个方向确实比较前沿,但是在学术界和工业界已经有一些探索了。」韩路一说道,「现在比较流行的是RAG(Retrieval—Augmented Generation,检索增强生成)技术,把模型里没有的相关资料放到资料库里,提前做好索引,等到有查询进来的时候,先把相关的内容在这个专用的资料库里搜出来,然後把搜到的内容一起送给大模型,让大模型根据这些内容来生成答案。」
通过给定数据来源的范围,和在提示词中严格的限制只能从给定的来源中生成回答,可以以最低的成本,在一定程度上把通用大模型变成一个领域专家。
「但是这其实是对模型能力不到位的一种妥协。」韩路一接着说,「用户问什麽问题是没法预测的,语义理解不到位,就检索不到相关的信息,最後给出的答案就不准确。这就像给一个没学过这门课的人开卷考试,你问问题的时候,他得现翻答案,翻到了,答的就好;可是翻不到,你就别指望他能给出什麽好答案了。」
韩路一讲的清晰到位,姜亦心和苏念念都听懂了。
确实,从这个方向上看,问题还是没得到解决。
姜亦心翻了一页资料,说道:「还有下一个问题。」
屏幕上写着这一节的标题:【长时记忆】。
「现在汤圆很强,但是它的工作是响应式的。」姜亦心说道,「我问一个问题,它回答一个问题;我追问下一个问题,它回答下一个问题。等到我问的问题太多了,超出了上下文窗口,整个对话就没法用了,然後打开下一个问题,一切从头开始。我们做御风的时候就对这个问题特意做了优化,然後在做这个成长助手的时候,我们遇到了同样的问题。」
这确实是在一线应用开发中才会遇到的痛点。
韩路一回头看了看苏念念,她最近做经营管理比较多,已经脱离产品一线一段时间了。
韩路一怕苏念念听不懂,停下来做了一些讲解—当然,他是对着姜亦心说的,只是让苏总顺便听一下。
「大模型进行生成的时候,就是把所有的上下文都放进模型里跑一遍,最後得出答案,所以上下文给的越多,占用的内存就越多,这个量有个极限大小,就是上下文窗口。」韩路一说道,「现在汤圆的上下文窗口是二十万个词元,这个量不算小,如果只是日常问答是够用的,但是在工程中使用的话就捉襟见肘了。」
「超出上下文窗口之後,大模型还能继续工作,但是它就会默默地忘记用户最一开始说的话,给出的答案很多时候都驴唇不对马嘴了,而用户还不知道是哪里出了问题。」
为了形象说明,韩路一讲了个网上的段子。
「有人说,你在和大模型聊天的时候,可以在最一开始加一个要求,让他在每一个回答最後都加一个「喵」,等他什麽时候大模型突然回答不带喵」字了,你就知道他已经超出上下文窗口了,需要换一个新的聊天进程了。」
苏念念确实不知道这些,尤其是最後的那个段子,她轻轻点了点头。
「所以在汤圆的上下文窗口有无限大之前,我们只能让它回答窗口里能撑得下的回答」姜亦心总结道。
这个总结很到位。
把问题分析完之後,姜亦心终於翻到了她的提案。
AI技能。
「这是什麽?」韩路一开口问道。
姜亦心想了想,说道:「可以理解成一种可复用的行动脚本。」
她怕这个解释太虚,又换了个说法。
「比如说,我想要一个运营复盘的技能,模型知道怎麽写复盘,但每次都要从头思考,像一个很聪明但没受过公司培训的新人。AI技能就是把公司里成熟员工的做法沉淀成一套固定动作,什麽时候触发,先看哪些数据,怎麽判断异常,怎麽拉取用户反馈,最後输出什麽格式,全都写清楚。」
「类似SOP(Standard OperatingProcedure,标准操作步骤)啊。」苏念念说。
乍一看,这个概念和御风很像。
御风也是把编程拆解成了不同的步骤,其中的每一步都由大模型来进行规划和判断,然後御风的工具再在代码库中进行执行。
但是韩路一和苏念念都很快地意识到,这是同一个理念在不同场景下的应用。
AI技能是把一套提示词给大模型,让它根据提示词记录的方式去行动,但具体的行动还是因时而异。
真的就像把一个技能做成了一个插件,让大模型即插即用。
在大模型还不能真的做到AGI的时候,这是一个通过工程方案来突破模型能力限制的技术。
韩路一听了点了点头,表示认可。
当然了,这只是一个大方向,真的想要落地,其中要攻克的技术难关不知道还有多少。
但是至少这个方向听起来是可行的。
现在AI这个行业,模型层在卷,应用层在卷,在模型和应用之间的工程层也在卷。
只有一直卷下去,才能卷出一条最终通往AGI的道路来。
韩路一拍了一下手掌,做了最後的总结。
「想法不错,是个值得试试的方向。这些应用层的设计,很大程度上依赖於汤圆的能力,汤圆越强,应用就越强。」韩路一说道,「小姜,你开始写产品说明的时候和赵总详细对一下汤圆的能力边界。」
「好的,韩总。」姜亦心接受命令。
果然,韩总知道该怎麽办。
「关於这个AI技能的开发优先级,让苏总来给你排吧。」韩路一又给源码科技的CE0
下了任务,公司方向、资源调配,这些都是CE0的工作。
苏念念点了点头:「小姜你最近探索的方向越来越多,我得给你多招几个人了,记得和沈丛云排面试的时间。」
姜亦心吓了一跳。
我也要去面试别人了吗?
现在她手底下的产品经理都是苏念念招进来的,真要去面试别人,姜亦心还没做好准备。
苏念念看出她的不安,安慰道:「没关系,谁都有第一次的,我面试你的时候也很紧张呢。」
姜亦心回想了一下,有吗?
我只记得苏总温柔又体贴来着。
姜亦心突然想到了什麽,开口说道:「对了,韩总。」
「怎麽了?」
「关於那个汤圆成长助手,我收集了几个备选的产品名,想让您和苏总选一选。」姜亦心说道。
「不是说让你定吗?」苏念念笑了笑,「都有什麽,说说吧。」
「有「深蓝」
」
姜亦心刚开口就被韩路一打断了。
「你说叫什麽名字?」他有点儿哭笑不得的说道。
「「深蓝」啊,怎麽了?」姜亦心说道。
苏念念也疑惑的看着韩路一,不知道他怎麽对一个名字反应那麽大。
「是那个「以我全部的感悟!以我一生之悟道!以我通天的智慧!以我无敌的资质!」的深蓝吗?」韩路一继续问。
「啊?」姜亦心脸上露出错愕的表情,「不是拿到西洋棋世界冠军的深蓝吗?」
倒是苏念念已经反应过来了,一定是韩路一的中二病又犯了。
「不是,你这个名字是谁提的?」韩路一确定姜亦心没听过这个梗了,但是他不相信「深蓝」这个词和加点没关系。
「是小牛和小杨说的。」姜亦心说,「您不喜欢这个名字?我也不太喜欢,我这还准备了一些其他的名字,像「悟空」,可名」,「无涯」
「不用!」韩路一说,「就叫深蓝吧,我觉得这个名字挺好,反正是内部产品。」
姜亦心狐疑地看了他一眼,眼神里的意思很明显:韩总,您真确定吗?
「行了,散会。」韩路一看了看表,已经五点了,「早点儿回家吧,别让我当黑心的资本家。」
「那我走了,韩总,苏总,明天见。」姜亦心把电脑拿起来出了门。
既然答应韩总要早走了,今天就回家加班吧。
姜亦心一边往外走一边想。
?今天没被考试啊,可喜可贺。
苏念念看着姜亦心出了会议室的门,伸出手,伸了一个懒腰:「开了一下午会,闷死了,人都僵了。」
韩路一忍不住瞟了一眼,又赶紧把目光收了回来。
一点儿也不儿童。
苏念念伸完懒腰也站了起来:「路一,我也要先回家啦。」
「嗯,路上注意安全。」韩路一说了一句。
苏念念走到门口,突然回过头,脸有点儿红红的。
韩路一正奇怪,突然听到她又说了一句:「喵~」
然後她就急匆匆地开门出去了。
韩路一回到办公室的时候,感觉自己的心跳还没有平复下来。
喵什麽的,也太犯规了吧。
刘彧看了看韩路一的脸色:「韩总,您没事吧?」
「没事啊,怎麽了?」韩路一听到这个问题,有点儿心虚的回答道。
「脸有点儿红。」刘彧仔细地打量了一下。
「太热了。」韩路一说,看了刘彧一眼,「下班了,早点儿回家吧。」
刘彧立刻把头低下:「好的,韩总,明天见。」
秘书的求生欲很强。
韩路一虽然催着员工下班,但是他自己打算加会儿班。
反正回家也没别的事儿干,而且今天早晨还刚答应了赵文渊和江松然要去做算子适配的工作,得先练练手。
韩路一本人的技术能力是不差,但是对显卡的硬体优化,他可以说完全是个门外汉,这个工作肯定是要靠视哥来做的。
至於视界具体能做到什麽程度,其实他心里也还没有底。
他答应的虽然轻巧,但一个月真能做出来吗?
不好说,那可是上百人的团队以年记的工作,还得试过才知道。
不过刚才的那个会议倒是给韩路一带来了一些启发。
把单个领域内的技能抽象成可复用的能力,让大模型调用,这是一个很好的思路。
虽然受限於大模型的能力限制,具体要怎麽做,能做到什麽程度还不好说。
但是别忘了,汤圆还只是这个时代的大模型,能力有限。
可我不只有汤圆,我还有视界啊。
视界,是时候了,让我看看你的极限在哪里。
>
http://www.daoduanxiuluo.com/yt128908/49560971.html
请记住本书首发域名:www.daoduanxiuluo.com。道断修罗手机版阅读网址:www.daoduanxiuluo.com
姜亦心消息发过去不到三分钟,他就回了一个会议室编号。
「下午四点半,三号会议室,韩总和苏总的会议正好结束,如果是和源码应用有关的主题,建议也邀请苏总参会。」
在大公司里,和领导预约会议的难度,非常取决於你的级别。
级别越高越好预约。
这个时间的会议一看就是在排满的日程里临时加进去的。
可见姜亦心的优先级很高了。
姜亦心的脸上露出笑容,没想到刘彧又发了一条消息过来。
「亚里士多德说过,人是天生的政治动物。」
这是在点我跨级汇报吧?嘿,我姜总惯你这个?
姜亦心直接回了一句过去:「帮我也邀请苏总,谢谢刘秘书。君子欲讷於言而敏於行。」
看看时间,离会议还有几个小时,正好可以把思路整理一下。
姜亦心坐下来打开汤圆的聊天界面和寻他搜寻引擎,开始整理关於使用大模型进行「个人成长」和「技能复用」的资料。
姜亦心一边操作一边想,汤圆也得把搜寻引擎的功能加上才行,这个功能太天然适合汤圆的使用场景了。
不查不知道,一查吓一跳,虽然在生活中使用AI的还是少数人,但是已经有很多AI的重度用户在探索不同的用法了。
想要让AI来替代其他高级职业的想法也不在少数。
有人想把AI当律师来谘询。
这有个例子,一个用户发贴:「我是个独立设计师,被甲方欠薪了,想要起诉他们,问了一圈律师的代理费用都得上万,就让ChatGPT给我出了一份起诉书,看起来引经据典很正规是没错,到了仲裁庭审的时候,对方的律师说我引用的法条根本不存在,丢人就算了,我是真丢钱啊!」
这是典型的模型幻觉问题。
更新不易,记得分享101看书网
大模型给出的法条不存在,因为大模型的训练里还有大量的文学作络资料,里面完全有可能有看起来像模像样其实不存在的法条。
更何况法条还有适用性的问题,现阶段的大模型根本无法替代拥有法律设计能力的资深律师。
还有人想把AI当医生来谘询。
一个宝妈发帖说,孩子发烧出红疹,在医院排队的时候想着等着也是等着,就把孩子的照片和症状发给AI,结果AI信誓旦旦地说这是「幼儿急疹」,回家吃退烧药就可以了,贴主不放心,又等了半小时见到医生,最後诊断是过敏导致的急性荨麻疹,差点就错过了治疗时机。
当然也有那种说早期症状医生没发现,但是却被AI诊断出来的例子,但是人命关天的事情,谁又敢真的全信AI说的话呢?
看来虽然想法都不错,但是在真的使用的过程中都有各种各样的痛点,这些人把自己的经历和想法发在网上互相交流,很多都很有价值。
目标用户的交流论坛就是产品经理的金矿啊!
姜亦心越整理越投入,不到两个小时,就搜集了几十个文档的内容。
这个时候,差不多到了午饭时间,但是姜亦心正做到兴头上,不想出去浪费时间,直接叫了外卖边吃边工作。
李婷没有打扰她,只是默默地带了奶茶回来。
按照前AI时代的流程,想要在这些原始数据中找到规律,需要她自己整理、分类、分析、挖掘。
但是有了汤圆之後,只要把所有的这些她监定过有价值的资料通通上传给汤圆,然後告诉它想要什麽样的报告,就可以出来质量非常不错的结论了。
当然,提示词怎麽输入也是一门学问,但是姜亦心已经驾轻就熟了,她自己有一个专门的文档整理常用的提示词,需要用的时候只要复制粘贴,对需求进行微调就可以了。
姜亦心一边操作一边想,这个文档不就是一个简单的「技能」吗?
花了几个小时的时间,姜亦心做出了一份诚意满满、乾货十足的调查报告,连着「汤圆成长助手」的用户反馈报告一起,就是一会开会要用的资料了。
四点半,姜亦心抱着电脑来到三号会议室门前,敲了敲门,听到苏念念在里面说「请进」,才打开门走了进去。
会议室里,韩路一和苏念念面对面坐在一起,两个人都没带电脑。
姜亦心一边在心里默默地说「又磕到了」,一边有点儿紧张地走了进来。
虽然一起工作了这麽久,姜亦心还是不习惯和两个老师一起开会。她有一个预期,一会大概率又要被考试了。
苏念念笑意盈盈地看着姜亦心:「听说你已经把上周五说的那个东西做出来了?给我们演示一下?」
「好的,苏总。」姜亦心把电脑接到屏幕上,打开了自己的人物卡界面。
还是【开拓者】的称号,里面记录了她的技能星图,以及过去的成长路线。
大概是比小牛小羊要多一些,但是又比钱晓乐少一些的程度。
简单的演示完,姜亦心看向苏念念:「苏总,您觉得怎麽样?」
苏念念没有马上回答,而是先看了韩路一一眼:「我觉得韩总一定很喜欢。」
她还有没说出来的半句话韩路一就是那种中二病宅男,虽然长得帅,但还是宅男。
韩路一笑了:「很好啊,不过只是我喜欢没有用,用户反馈怎麽样?」
姜亦心拿出了准备好的反馈报告,用数据说话。
除了她自己之外,还有五名源码内部的内测用户,普遍反馈了用户满意度高,工作积极性上升等结果。
另外就是用户强烈要求的「称号偏向选择」功能,在实用功能没有任何改变的情况下,再次提升了用户使用率和满意度。
总的来说,工作还是那份工作,但是变得更有趣了。
同时,姜亦心也亲眼看到了小牛被称号系统升级这件事吊得恨不得全身心的去工作的状态。
可见游戏化确实还是很有用的。
「另外」姜亦心顿了顿,把钱晓乐的事情讲了出来。
在游戏化的系统中还有这麽一个异类玩家,她不把游戏的数值当成评判标准,因为她在现实中已经有了系统的复盘方法。反而是因为这样,她的游戏化数值比其他用户高出一大截。
姜亦心把进度汇报完之後,苏念念和韩路一各自点了点头。
「效果很好啊,这个星期可以在全公司内部推广。」韩路一说道。
「可惜,想要商品化的话,困难重重啊。」苏念念叹了口气,感慨了一句。
这个问题三个人在周五的会议上就讨论过了。
这种「成长系统」,想要能够对用户给出准确的评价,就需要对用户进行全方位的画像,需要接触很多个人信息。
只在源码内部使用的话,所有工作相关的信息本身就是归源码所有,没有什麽隐私的问题,但是一旦想要对外推广,不管是对企业还是对个人用户,关於隐私、数据安全,都还有很长的路要走。
「没必要什麽都想着商品化嘛。」韩路一说了一句,「只要这件事情有趣、有益,我们就可以继续做下去,有的时候商机总会在不经意间出现。」
姜亦心听到这,觉得时机差不多了,她举起手。
「韩总,苏总,其实我还有个关於产品的想法,想和你们聊聊。」
苏念念其实猜到了,三人之间每周是有固定会议的,如果只是汇报「成长系统」的成绩,完全可以等到那个时候。
今天临时预约一个会议,肯定是有决策要做的。
「让小姜总这麽急,是什麽想法啊?」她笑着说道。
姜亦心打开了刚刚整理出来的资料。
《使用大模型创建可复用的专家级技能》。
然後她把是怎麽受到早期用户的启发,想到可以使用AI来制作领域专家的能力,然後在网上调查到的现状等等都讲了出来。
韩路一和苏念念对视了一眼,都能看出对方眼中的惊讶。
小姜真的是一个很敏锐的产品经理啊。
「网上很多人都有这方面的尝试了,但是我觉得主要受限於几个方面的原因,现在的AI还没有办法提供和真人专家一样级别的能力。」姜亦心说,「首先最主要的是,现在的大模型在设计之初都是被按照通才来培养的,但是当我们需要某个职业的能力的时候,我
们需要的是他的专才,比如编程、法律、设计等等。」
韩路一点点头。
这确实是个问题,而且还是源智的应用方面正在面临的挑战一汤圆在国家电网的应用落地,需要的就是电力方面的专才。
「这个方向确实比较前沿,但是在学术界和工业界已经有一些探索了。」韩路一说道,「现在比较流行的是RAG(Retrieval—Augmented Generation,检索增强生成)技术,把模型里没有的相关资料放到资料库里,提前做好索引,等到有查询进来的时候,先把相关的内容在这个专用的资料库里搜出来,然後把搜到的内容一起送给大模型,让大模型根据这些内容来生成答案。」
通过给定数据来源的范围,和在提示词中严格的限制只能从给定的来源中生成回答,可以以最低的成本,在一定程度上把通用大模型变成一个领域专家。
「但是这其实是对模型能力不到位的一种妥协。」韩路一接着说,「用户问什麽问题是没法预测的,语义理解不到位,就检索不到相关的信息,最後给出的答案就不准确。这就像给一个没学过这门课的人开卷考试,你问问题的时候,他得现翻答案,翻到了,答的就好;可是翻不到,你就别指望他能给出什麽好答案了。」
韩路一讲的清晰到位,姜亦心和苏念念都听懂了。
确实,从这个方向上看,问题还是没得到解决。
姜亦心翻了一页资料,说道:「还有下一个问题。」
屏幕上写着这一节的标题:【长时记忆】。
「现在汤圆很强,但是它的工作是响应式的。」姜亦心说道,「我问一个问题,它回答一个问题;我追问下一个问题,它回答下一个问题。等到我问的问题太多了,超出了上下文窗口,整个对话就没法用了,然後打开下一个问题,一切从头开始。我们做御风的时候就对这个问题特意做了优化,然後在做这个成长助手的时候,我们遇到了同样的问题。」
这确实是在一线应用开发中才会遇到的痛点。
韩路一回头看了看苏念念,她最近做经营管理比较多,已经脱离产品一线一段时间了。
韩路一怕苏念念听不懂,停下来做了一些讲解—当然,他是对着姜亦心说的,只是让苏总顺便听一下。
「大模型进行生成的时候,就是把所有的上下文都放进模型里跑一遍,最後得出答案,所以上下文给的越多,占用的内存就越多,这个量有个极限大小,就是上下文窗口。」韩路一说道,「现在汤圆的上下文窗口是二十万个词元,这个量不算小,如果只是日常问答是够用的,但是在工程中使用的话就捉襟见肘了。」
「超出上下文窗口之後,大模型还能继续工作,但是它就会默默地忘记用户最一开始说的话,给出的答案很多时候都驴唇不对马嘴了,而用户还不知道是哪里出了问题。」
为了形象说明,韩路一讲了个网上的段子。
「有人说,你在和大模型聊天的时候,可以在最一开始加一个要求,让他在每一个回答最後都加一个「喵」,等他什麽时候大模型突然回答不带喵」字了,你就知道他已经超出上下文窗口了,需要换一个新的聊天进程了。」
苏念念确实不知道这些,尤其是最後的那个段子,她轻轻点了点头。
「所以在汤圆的上下文窗口有无限大之前,我们只能让它回答窗口里能撑得下的回答」姜亦心总结道。
这个总结很到位。
把问题分析完之後,姜亦心终於翻到了她的提案。
AI技能。
「这是什麽?」韩路一开口问道。
姜亦心想了想,说道:「可以理解成一种可复用的行动脚本。」
她怕这个解释太虚,又换了个说法。
「比如说,我想要一个运营复盘的技能,模型知道怎麽写复盘,但每次都要从头思考,像一个很聪明但没受过公司培训的新人。AI技能就是把公司里成熟员工的做法沉淀成一套固定动作,什麽时候触发,先看哪些数据,怎麽判断异常,怎麽拉取用户反馈,最後输出什麽格式,全都写清楚。」
「类似SOP(Standard OperatingProcedure,标准操作步骤)啊。」苏念念说。
乍一看,这个概念和御风很像。
御风也是把编程拆解成了不同的步骤,其中的每一步都由大模型来进行规划和判断,然後御风的工具再在代码库中进行执行。
但是韩路一和苏念念都很快地意识到,这是同一个理念在不同场景下的应用。
AI技能是把一套提示词给大模型,让它根据提示词记录的方式去行动,但具体的行动还是因时而异。
真的就像把一个技能做成了一个插件,让大模型即插即用。
在大模型还不能真的做到AGI的时候,这是一个通过工程方案来突破模型能力限制的技术。
韩路一听了点了点头,表示认可。
当然了,这只是一个大方向,真的想要落地,其中要攻克的技术难关不知道还有多少。
但是至少这个方向听起来是可行的。
现在AI这个行业,模型层在卷,应用层在卷,在模型和应用之间的工程层也在卷。
只有一直卷下去,才能卷出一条最终通往AGI的道路来。
韩路一拍了一下手掌,做了最後的总结。
「想法不错,是个值得试试的方向。这些应用层的设计,很大程度上依赖於汤圆的能力,汤圆越强,应用就越强。」韩路一说道,「小姜,你开始写产品说明的时候和赵总详细对一下汤圆的能力边界。」
「好的,韩总。」姜亦心接受命令。
果然,韩总知道该怎麽办。
「关於这个AI技能的开发优先级,让苏总来给你排吧。」韩路一又给源码科技的CE0
下了任务,公司方向、资源调配,这些都是CE0的工作。
苏念念点了点头:「小姜你最近探索的方向越来越多,我得给你多招几个人了,记得和沈丛云排面试的时间。」
姜亦心吓了一跳。
我也要去面试别人了吗?
现在她手底下的产品经理都是苏念念招进来的,真要去面试别人,姜亦心还没做好准备。
苏念念看出她的不安,安慰道:「没关系,谁都有第一次的,我面试你的时候也很紧张呢。」
姜亦心回想了一下,有吗?
我只记得苏总温柔又体贴来着。
姜亦心突然想到了什麽,开口说道:「对了,韩总。」
「怎麽了?」
「关於那个汤圆成长助手,我收集了几个备选的产品名,想让您和苏总选一选。」姜亦心说道。
「不是说让你定吗?」苏念念笑了笑,「都有什麽,说说吧。」
「有「深蓝」
」
姜亦心刚开口就被韩路一打断了。
「你说叫什麽名字?」他有点儿哭笑不得的说道。
「「深蓝」啊,怎麽了?」姜亦心说道。
苏念念也疑惑的看着韩路一,不知道他怎麽对一个名字反应那麽大。
「是那个「以我全部的感悟!以我一生之悟道!以我通天的智慧!以我无敌的资质!」的深蓝吗?」韩路一继续问。
「啊?」姜亦心脸上露出错愕的表情,「不是拿到西洋棋世界冠军的深蓝吗?」
倒是苏念念已经反应过来了,一定是韩路一的中二病又犯了。
「不是,你这个名字是谁提的?」韩路一确定姜亦心没听过这个梗了,但是他不相信「深蓝」这个词和加点没关系。
「是小牛和小杨说的。」姜亦心说,「您不喜欢这个名字?我也不太喜欢,我这还准备了一些其他的名字,像「悟空」,可名」,「无涯」
「不用!」韩路一说,「就叫深蓝吧,我觉得这个名字挺好,反正是内部产品。」
姜亦心狐疑地看了他一眼,眼神里的意思很明显:韩总,您真确定吗?
「行了,散会。」韩路一看了看表,已经五点了,「早点儿回家吧,别让我当黑心的资本家。」
「那我走了,韩总,苏总,明天见。」姜亦心把电脑拿起来出了门。
既然答应韩总要早走了,今天就回家加班吧。
姜亦心一边往外走一边想。
?今天没被考试啊,可喜可贺。
苏念念看着姜亦心出了会议室的门,伸出手,伸了一个懒腰:「开了一下午会,闷死了,人都僵了。」
韩路一忍不住瞟了一眼,又赶紧把目光收了回来。
一点儿也不儿童。
苏念念伸完懒腰也站了起来:「路一,我也要先回家啦。」
「嗯,路上注意安全。」韩路一说了一句。
苏念念走到门口,突然回过头,脸有点儿红红的。
韩路一正奇怪,突然听到她又说了一句:「喵~」
然後她就急匆匆地开门出去了。
韩路一回到办公室的时候,感觉自己的心跳还没有平复下来。
喵什麽的,也太犯规了吧。
刘彧看了看韩路一的脸色:「韩总,您没事吧?」
「没事啊,怎麽了?」韩路一听到这个问题,有点儿心虚的回答道。
「脸有点儿红。」刘彧仔细地打量了一下。
「太热了。」韩路一说,看了刘彧一眼,「下班了,早点儿回家吧。」
刘彧立刻把头低下:「好的,韩总,明天见。」
秘书的求生欲很强。
韩路一虽然催着员工下班,但是他自己打算加会儿班。
反正回家也没别的事儿干,而且今天早晨还刚答应了赵文渊和江松然要去做算子适配的工作,得先练练手。
韩路一本人的技术能力是不差,但是对显卡的硬体优化,他可以说完全是个门外汉,这个工作肯定是要靠视哥来做的。
至於视界具体能做到什麽程度,其实他心里也还没有底。
他答应的虽然轻巧,但一个月真能做出来吗?
不好说,那可是上百人的团队以年记的工作,还得试过才知道。
不过刚才的那个会议倒是给韩路一带来了一些启发。
把单个领域内的技能抽象成可复用的能力,让大模型调用,这是一个很好的思路。
虽然受限於大模型的能力限制,具体要怎麽做,能做到什麽程度还不好说。
但是别忘了,汤圆还只是这个时代的大模型,能力有限。
可我不只有汤圆,我还有视界啊。
视界,是时候了,让我看看你的极限在哪里。
>
http://www.daoduanxiuluo.com/yt128908/49560971.html
请记住本书首发域名:www.daoduanxiuluo.com。道断修罗手机版阅读网址:www.daoduanxiuluo.com