实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

2026-07-10 14:16:23 1点赞 9收藏 0评论

AI Agent 时代,最大的资源是什么?信息,信息,还是信息。

别人的 Agent 可以抓取到的信息,你抓取不到,那你的产品再好也只能成为空中楼阁。

明明都是抓网页、抓内容,为什么别人可以 Goal 干活到天亮,而你的 Agent 不是告诉你获取不到网页信息,就是告诉你遇到了反爬动不了。

能力差在浏览器自动化和信息抓取上。 说简单点,就是反爬。

最近我在 github 看到一个升星特别快的 Skill —— BrowseAct。它是一款专为 Agent 配置的浏览器自动化 CLI 工具,专门用来解决 Agent 无法深度开展浏览器使用以及容易被反爬挡住的问题。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

在使用它之前,我还专门找了几个真正体验并分享过的内容。嘿,一看一研究,还发现这个 Skill 是真的有点东西。

它不只是一个简单的浏览器反爬,或者浏览器操作,或者是无头浏览器的能力。它是真正把浏览器指纹伪装、TLS 轮换、代理切换、验证码处理、受保护页面提取、远程人工接管、无头浏览器、会话隔离、多账号身份隔离、并发任务管理,以及面向 Agent 的索引化页面交互整合到一起的浏览器控制系统。

它解决的不是“能不能打开网页”这么浅的问题,而是 Agent 在真实互联网环境里持续干活时,很容易遇到的几个痛点:打不开、进不去、看不懂、登录态不能复用、不能并发、遇到风控、遇到验证、遇到问题不会主动找人无缝接管

所以它的价值不只是反爬,而是把浏览器变成了 Agent 的一只“专业手臂”。

接下来,骑上我们心爱的小摩托( WorkBuddy)。(词)元神,启动!

第一关:抓取网页

先来看看白板 WorkBuddy 的抓取能力吧。我让它分别抓取了公众号、小红书的信息。从结果来看,它对前几篇公众号 WebFetch 毫无问题,但是当遇到公众号限制以及小红书搜索时,整个 Agent 直接抓瞎,无能为力了属于是。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

再来看看安装了 BrowserAct 之后的 WorkBuddy。同样抓取小红书内容,分分钟拿下,而且每一篇都可以抓取到标题、作者、互动数、日期。

我仔细翻看了 WorkBuddy 调用 BrowserAct CLI 的过程,发现整个 CLI 工具通过了两个层级来执行这次抓取任务。

层级一:是 BrowserAct 的内置服务,叫做 stealth-extract ,它是一个可以自动提取受保护页面的工具。可惜这一层在处理小红书的时候撞墙了,小红书必须有登录态。

层级二:浏览器自动化操作,BrowserAct 启动本地 Chrome 浏览器,模拟人为操作和搜索。这一次,顺利抓到了相关信息。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

这里要感慨一下 WorkBuddy 的主动性,非常给力。数据返回后它第一时间把数据整理成了规范的 Markdown 格式,并且列出了表格、排序,比单独看文字要丰满很多。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

除了小红书,我还尝试去抓了一些有校验的网站(当然具体的网址就不透露了)。

在这里 Browser-Act 另外一个强大的能力 solve-captcha 大放异彩。它是 Browser-Act 的一个云端服务,免费注册既可以享受。而且另外还赠送了 5 个可并发的 stealth 浏览器

我翻看了一下 Browser-Act 的 Github 仓库,里面介绍 stealth 浏览器 本身就拥有降低自动化特征的能力,所以它搭配 solve-captcha ,这个网站的滑杆被 WorkBuddy 顺利解决了。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

第二关:并发批量抓取

第一关过的很轻松,于是我准备测试一下第二关,批量操作和并发抓取信息。对于普通的 Agent 来说,Browser USE 能力可以算是一个基础能力了,但是一遇到大批量的并发数据抓取,就会有点困难。

它的难不在于传统 Playwright 不支持并发,而更多在于高频下的浏览器校验、限定,以及大模型的决策可靠性上。

我让 WorkBuddy 帮我分别从知乎、值得买、公众号、小红书上搜索 NAS docker 相关的 AI 教程,并且汇总。

大致上是三个阶段:

1️⃣ 使用 stealth-extract 并行抓取知乎、SMZDM 数据,本地 Chrome 浏览器操控小红书

2️⃣ 开启隐身浏览器,批量获取 知乎、小红书、什么值得买平台数据,公众号使用 WorkBuddy 内置 WebSearch 搜索信息

3️⃣ 公众号单独启用 stealth-extract 抓取获取到的信息,然后全平台详情汇聚,出报告。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

这里 WorkBuddy 使用 Browser-Act 把四个平台分成了三类来处理。

第一类 浏览器操作 + 隐身浏览器。知乎、小红书两类需要登录才能搜索内容的平台,WorkBuddy 直接切换到了本地 Chrome 并发处理。Browser-Act 支持同时开启多个浏览器并分别访问不同的网站,彼此之间的会话、上下文完全隔离。

更厉害的是,在启动本地浏览器后,它还并发开启了 Stealth browser (隐私浏览器),这种模式下可以模拟正常的浏览器指纹来进行操作,会大大降低平台的风控触发。因此很快也就拿到了数据。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

第二类 stealth-extract。这里以什么值得买平台为例,它不需要登录态,WorkBuddy 可以快速提取浏览器返回的渲染页面,然后通过正文结构化的处理后将内容从网页里抽取出来。

整个过程非常快,而且没有 html 里的各种格式文件和其它不必要的功能按钮。

第三类 WebSearch + stealth-extract。 这里的坑点是公众号。因为公众号我不像第一关那样给一个非常具体的 URL ,而是要求它搜索公众号的信息。这就存在了一个信源问题。

于是 WorkBuddy 就调用了自身的另外一个搜索能力来获取公众号相关文章的列表,获取到详细 URL 后再来调用 stealth-extract 抓取实际内容。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

整套流程我看下来,这就有点 Nice 了。可以用各司其职来体现我最大的感受。

其实最让我心动的浏览器能力就是并发执行了。我想每一个善于使用 Agent 进行网络信息采集的人都应该懂这个点。毕竟时间就是金钱,时间就是一切。

但是并发真的很难,它不仅有我刚才说的问题,甚至对你的电脑性能都是一个考验,你总不能开几十个窗口在那边跑任务吧。

所以 WorkBuddy 搭配 Browser-Act Skill 在并发任务执行这一关的表现非常优秀。它甚至可以确保每一个打开的查询页面都拥有独立的 Sessions ,互相之间不串台、不冲突,一个账号的登录态,就可以满足多个并发任务下对不同页面、任务的执行需求。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

第三关:可复用的抓取路径

回顾以往我在使用一些反爬的 Skill 或者三方软件,遇到最大的问题不是没办法抓取。而且每一次抓取 Agent 的呈现结果都不稳定。

明明第一次可以成功,但是过几天再去尝试,Agent 就会说没办法解决,必须把当时的资料喂给它才能继续。这个问题最终还是源自于 LLMs 的能力,并且依靠 Memory 也只能治标而不能治本。

那么回到 WorkBuddy 的工作里,说说我的解决方案。依旧是 Browser-Act ,不过这次不是它的 CLI 能力了,而是它提供的一个叫 browser-act-skill-forge 的能力。

browser-act-skill-forge 是一个用于创建网页数据抓取的 Skill 的工具,它的目标就是将单一的网页数据采集工作,转换为本地可复用、可执行,稳定高效的 Skill。

我使用这个 Skill ,要求它对值得买里批量的 NAS 好价数据进行整理。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

具体的工作流程是这样子的。

第一步是使用 browser-act-skill-forge 对网站进行探索,了解我的数据需求,以及它们分别分布在网站的什么地方。

第二步是验证这些数据能否通过 stealth-extract 提取,即避免每次都跑完整的浏览器。

第三步是通过 browser-act 创建隐身浏览器跑一遍完整的流程,看看能否正确跑出数据来。

第四步开始是对数据的具体处理和调用。

最后一步是处理网页数据整理过程中遇到的验证码问题,跑通自动解决和转人工协助解决的流程。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

这里提一嘴,人工协助的时候,WorkBuddy 会调用 Browser-Act 的服务到会话里,我们直接点击就可以处理,就是哪怕人在外,只要手机可以连接 WorkBuddy 就可以解决。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

WorkBuddy 跑完整个流程后,输出了一套 Skill 框架给我,里面包含了具体的流程、py 代码等等,然后在我的要求下将其创建成了完整的 Skill 。专门用来满足我跑这一个网站数据的任务。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

在 Skill 对应的说明文档里,可以看到每一个步骤以及操作流程。这样一整套稳定、可复用的 Skill 就真正落地在了 Agent 里,真正成为了扩展能力。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

牛,牛,牛。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

干脆再跑一遍吧。所以我这里直接复用这个创建好的 Skill ,并发批量去跑四台 NAS 的价格数据。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

下面是结果,非常的快,12 秒钟内完成了四款 NAS 产品型号的,并且整理成了详细的价格对比和曲线波动 HTML 单文件。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

写在最后

最近不是 Vibe Coding 么,所以在我之前的 TRADIS 容器管理工具里我增加了一个 NAS 导购的功能,主要目的就是给大家介绍促销时期的 NAS 选购指南,以及对比型号等等。

这下好了, 真的是瞌睡了送枕头来了,数据源和及时性的问题,被 WorkBuddy + Browser-Act 彻底解决了。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

如果你平时经常有一些浏览器操作或者数据整理的需求,并且一直没有找到一个很好的浏览器控制方案的。

那么 Browser-Act 觉得可以试一试,它在当前真的非常火,而且有效。

对比其它工具而言,不是说其它工具做不到这一套效果。而是说 Browser-Act 真的把之前浏览器操作的所有能力整合在一起了。

抓取流程 Skill 化、多任务/多账号的 profile、Session 保持、本地浏览器登录态复用、本地浏览器操作、自动过验证等等,它把 Agent 的浏览器自动化操作,真正带进了浏览器执行层。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

部署方法很简单,直接把这个指令发给Agent

Install browser-act. Skill source: https://github.com/browser-act/skills/tree/main/browser-act . Verify it works after installation.

如果说,我前面体验过的这些能力,还无法满足你的数据整理需求,甚至你还需要更稳定的 IP、指纹、并行处理,那么可以体验一下 Browser-Act 的官方 SAAS 服务,它可以提供动态/静态的代理能力,并且并发限制也会有所增加,对于大规模的浏览器控制上,会更有价值。

实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化
实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
9
扫一下,分享更方便,购买更轻松