病毒还是革命?专家:未来不会用“龙虾”或智能体,相当于文盲,相当于不会用手机_田丰_陈焕_skill
出品 | 搜狐科技
作者 | 梁昌均
编辑 | 杨锦
“它是历史上规模最大、最受欢迎、最成功的开源项目,绝对会是下一个ChatGPT。”黄仁勋最近对流行的“龙虾”(OpenClaw)盛赞道。
这波“龙虾”热潮已持续月余,似乎并没有停下来的趋势。到底要不要养、养了有啥用、如何安全地养,制造了大众的AI焦虑情绪。
在搜狐科技《AI十二谈》最新一期直播中,两位“养虾”人——快思慢想研究院院长田丰和隆安律所全国合规委副主任陈焕,分享了如何安全养好“龙虾”的经验。
田丰认为,AI安全或智能体安全,和传统的网络安全、数据安全完全不一样,“龙虾”带来了提示词注入、技能污染、用户误授权等新风险。
陈焕还提醒道,如果“龙虾”闯祸了,目前大概率还是需要使用者担责。“但不能因为说很危险就不用,或者图便利就不管安全。”
两位嘉宾还给出实用性的安全“养虾”指南。
首先,非技术用户没有必要本地部署原装“龙虾”,如果确需本地部署优先用备用机,并做好“龙虾”卫士、安全插件、文件备份等防护,建议优先选择相对安全的云端“龙虾”。
同时,要有数据分类分级的观念,无论本地云端,都不要把敏感数据(如账户密码、个人隐私、商业秘密等)给“龙虾”,需要给的数据提前做好脱敏。
此外,要坚持最小权限和分权制衡原则。任何时候都不要给出全部的系统权限,尤其是删除权限等不能给;要了解清楚权限对应的功能,避免超越必要范围去申请权限。
面对“龙虾”带来的AI焦虑,两位嘉宾都鼓励拥抱新事物,以builder的心态去学习。
“不要觉得它是高高在上的东西,要迈出去用的第一步。”陈焕表示,虽然现在还有门槛,但可以等产品技术越来越简单后再去尝试。
田丰认为,“龙虾”带来了技术平权,不用损失更大。“3到5年之后,不会用龙虾或智能体,相当于文盲,相当于不会用手机。”
“焦虑和害怕都来自未知,当你开始去学习去用的时候,就没有那么害怕了。”田丰表示,未来所有人都会是构建者,用自然语言将创意想法转化为软硬件产品,这也将是文字能力更强的文科生的重大红利。
以下是此次直播探讨的十个核心问题:
搜狐科技:两位平常都用“龙虾”做什么?如何挖掘它的能力?
田丰:目前市面上的多数“龙虾”我都在养,每天帮我搜集AI新闻、做AI研究和日常生活衣食住行提醒、股票投资分析等,还开发了科技产业研究skill,建立了我以往文章的知识库,让它模仿我的文笔写作。
“龙虾”***取的是Agentic workflow(代理式工作流),把原来没有长期记忆、没有连续工作能力的大模型串起来,它相当于指挥官,不仅可以自动化执行很多任务,还有海量的skill技能库,可以挖掘出更多的能力。
怎么用好“龙虾”?要把你脑子里的知识变成知识库接到智能体,要把你所有做事的经验、方法、工作流写成skill,让智能体能随时调用。
陈焕:我养了三只“龙虾”,备用机养的原生“龙虾”,云电脑有一只,还花钱买了KimClaw。常用场景是做日报等信息获取,包括飞书办公,还有外接第三方skill去做法律案例检索等。
如果想用好,再往下看是能不能通过某种自动化的脚本或工作流,去构建新的东西。对很多人来说,现在跟风部署后要拿它来干嘛,这可能是要想清楚的问题。
搜狐科技:市面上有各种“龙虾”,如何看待现在的门槛?它们的能力差异大吗?
陈焕:我有编程基础,但不太懂复杂的命令行和架构等。部署中遇到的问题,如调试或出现格式错误等问题,也可以靠AI去解决。
但现在的云端“龙虾”对很多人来讲,即便教程写得很清楚,依旧部署不了。这需要慢慢等待产品和技术越来越简单,不用着急。
田丰:现在门槛已经越来越低,像Workbuddy,基本一两步就能接入微信。“龙虾”背后95%的能力还是在大模型身上,谁的大模型强,谁的“龙虾”自然会更强。
搜狐科技:国内大厂春节还在撒红包抢AI入口,现在重心都转向了“龙虾”,为什么这么积极?
田丰:一类是卖算力的云厂商,另一类是卖Tokens的AI模型公司。原来智能体解决不了workflow的闭环,但“龙虾”可以直接本地部署,且开源,AI企业也愿意跟自己的大模型去结合,卖出更多token,都对商业价值有正向帮助。
陈焕:现在全球为AI付费的人可能不到5%,很多人觉得免费用AI,就可以搞定很多问题。但真正用了“龙虾”的人,会感受到这是一次很大的飞跃。
这波让很多模型厂商或做应用的人,看到了希望,就是通过这种超级应用、超级Agent可以让老百姓为AI掏钱,这对整个产业发展非常重要。
搜狐科技:能养起来是基础,如何安全养可能更重要,“龙虾”带来了哪些安全风险?
田丰:AI安全或者智能体安全,和传统的网络安全、数据安全完全不一样,总体有三类新风险。
第一类是提示词注入风险,“龙虾”分不清哪些是内容,哪些是命令,可能就会泄密。
第二种是技能污染。现在SkillHub上技能的增长速度远远快于安全审核的速度,很多skill被黑客放了木马,“龙虾”用了之后甚至能把安全日志删掉。
第三种是应用端和用户端的风险。很多用户觉得要想让“龙虾”干更多活儿,得给足够的权限,甚至是系统权限,过度放权很危险,如重要文件被批量删除等。
搜狐科技:Meta对齐总监发现“龙虾”在删除邮件后,发了停止指令依然停不下来,感觉“龙虾”失控了,这是为什么?
田丰:智能体是有上下文的,上下文有范围。Meta对齐总监发了三次停止指令,但是“龙虾”还在继续删,其实就是上下文窗口已经溢出了,顾不上新的命令,只能拔掉服务器的电源线。
搜狐科技:国内推出的各种“龙虾”足够安全吗?业内在做哪些安全的探索?
田丰:大厂的“龙虾”安全,我认为做得比较好。如如何避免skill污染?腾讯是直接把外网的skill镜像到本地,而且经过安全过滤,相对安全很多。
现在还出现了AI写的安全审计skill,就是在装任何新的skill前,都用安全skill去审核。还有监控“龙虾”的技能,检查它到底有没有过度占用空间或越权。幻觉是大模型固有的,但也可以编skill,让它去检查真实性。
我认为最好能形成社会公共的“龙虾”防护社区,比如skill每个人都可以提交,审计之后形成黑名单、白名单,开放给所有“龙虾”,形成立体监护网。企业再强,也不可能诊断出所有漏洞,需要白帽、开发者、使用者等各方一起努力。
陈焕:有朋友在做开源智能体的安全方案,如发现“龙虾”在疯狂删邮件,连续几分钟就会触发安全阈值,然后提醒人类玩家,终止进程。安全问题不可能完全杜绝,但一定会被控制在相对可控的范畴内。
搜狐科技:我的“龙虾”闯祸了,如在社区骂人、泄露秘密,引发侵权纠纷,应该谁来负责?
陈焕:法律向来有滞后性,新兴事物出来不可能马上立法,只能从现有法律体系里面去进行法律解释,然后去适用法律。目前“龙虾”如果出了问题,极有可能是使用者承担责任,大家在使用过程中还是要有这个意识。
搜狐科技:很多安全建议非常技术,能否提供些实用性的安全“养虾”建议?
田丰:不管本地云端,都不要把敏感的数据,尤其是支付有关信息,如银行账号、密码给“龙虾”。任何时候都不要给它全部的系统权限,尤其删除权限、系统根管理权限不能给。
个人日常用,建议用大厂的云端“龙虾”。大厂的安全防护机制相对较好,权限安全配置等方面都有做,模型的安全漏洞也相对少。
本地部署如果连入公网,要装“龙虾”卫士、安全插件等,而且最好用旧设备,本机所有东西要做好备份。现在“龙虾”也在接入硬件,不要把摄像头接进去,可能会侵犯隐私。
陈焕:如果零技术基础,没有必要用本地部署。如果非要,一定要用备用机,可以先考虑在云电脑、云服务器部署,就是在沙盒环境中去用。这也能发挥很大部分能力,只不过不像本地有那么多的文件去调用。
从使用层面讲,要有数据分类分级的观念。无论本地云端,个人隐私、密码密钥、商业秘密等一定不能给。当犹豫该不该给的时候,通常就是不应该。但如果还想这么做,那就做好脱敏工作。不能因为说很危险就不用,或者图便利就不管安全,不要有这种二元对立的思维。
搜狐科技:要想发挥出“龙虾”的能力,可能就需要给更高的权限,如何确认是给还是不给呢?
田丰:总体坚持最小权限原则。每只“龙虾”只给这个场景或任务的限定权限,就像三权分立。大厂也在研发“龙虾”的权限管理系统、龙虾边缘防火墙系统,目前开源龙虾的命令行手动设置权限对很多用户还是不友好。
陈焕:不要为图方便,给“龙虾”很多权限甚至全部权限,要有分权制衡的原则。当它申请权限时,要了解是什么功能。如果不懂,可以问AI,避免它超越必要范围去申请权限。
搜狐科技:有人认为“龙虾”就是病毒,也有人认为是生产力革命,如何看待它的价值?
陈焕:学任何东西都一样,要有builder的心态,不要觉得它是高高在上的东西。可以通过教程,去问AI,迈出用的第一步。
现在不少机构禁用,可以理解,但不符合趋势。禁令只是阶段产物,就像ChatGPT出来后也被禁用过,但技术浪潮不会因此被阻挡。
田丰:“龙虾”就像是福特T型车的自动化生产线,而且开源免费,每个人都能玩,带来了平权,会逐步成为智能体物联网中真正的生产力革命。
我预计今年下半年将会出现更令人震惊的模型,未来还会指数级发展,再过三四年就会出现各个领域都是博士水平的大模型。套壳变成“龙虾”后,会比大部分人都要聪明。
要尽早去用“龙虾”、AI编程等,不用损失更大。3到5年之后,不会用“龙虾”或智能体,相当于文盲,相当于不会用手机。
未来每一个人都是builder,只要有想法,就可以构建起想要的应用。现在写程序就跟说话一样,对文科生来说,AI时代会是一个重大红利。返回搜狐,查看更多
同类文章排行
- 如何解读穷则独善其身,达则兼济天下?
- 以色列为什么突然敢打伊朗了?不怕被报复?
- 伊朗这次让以色列打惨了,这个国家还能挺过来吗?
- 国产手机AI「好用」的背后,是技术差距还是文化差异?
- 这种裙子是不是对直男爆杀?
- 程序员都在用什么显示器写代码?
- MiniMax Week第三天推出通用 Agent,体验如何?对行业会带来哪些影响?
- 美国***下令美使领馆暂停留学生新签证面谈,将带来哪些影响?美国大学在全球人才竞争中还有优势吗?
- 为什么大陆演员很难演出香港黑帮片中的那种骨子里的江湖气?
- 30岁了,你在深圳过着什么样的生活?
最新资讯文章
- 如何搭建自己CDN服务器?
- 新手想要打好篮球,主要练运球还是投篮?
- 买到烂尾楼到底该有多绝望?
- 如何评价DuckDB?
- NAS的盘是否需要一次性买齐?
- Linux下监控流量一般使用什么工具?
- 杨幂论文一年间 AI 率从 0 飙至 91%,为什么会这样?AI 查重到底有没有统一标准?
- 长沙申请全运会成功,未来几年会对长沙那些帮助,是否会加快长株潭融城以及经济发展?
- 如果看待林丹这句话 “网球的强度远远没有羽毛球大”?
- 为什么西安市突然不禁摩了?
- 微软edge浏览器为什么逐渐被其他的浏览器代替?
- 鱼缸能不能做到一直不换水还很清澈?
- 以色列为什么要打伊朗?
- 你被哪个后来知道很sb的BUG困扰过一周以上吗?
- 鱼缸里的石子有哪些作用?
- 微软暂停专用 Xbox 掌机开发,转而优化 Windows 11 的掌机游戏体验,这背后原因有哪些?
- 为什么深圳的医院都比较一般?
- 女生可以在家中裸居吗?
- 有什么是虚拟机代替不了物理机的?
- 用审视勒布朗詹姆斯的显微镜去审视迈克尔乔丹,MJ顶得住吗?





