实战 WorkBuddy+反爬+爬虫固化 Skill,6大能力搞定浏览器自动化
AI Agent 时代,最大的资源是什么?信息,信息,还是信息。
别人的 Agent 可以抓取到的信息,你抓取不到,那你的产品再好也只能成为空中楼阁。
明明都是抓网页、抓内容,为什么别人可以 Goal 干活到天亮,而你的 Agent 不是告诉你获取不到网页信息,就是告诉你遇到了反爬动不了。
能力差在浏览器自动化和信息抓取上。 说简单点,就是反爬。
最近我在 github 看到一个升星特别快的 Skill —— BrowseAct。它是一款专为 Agent 配置的浏览器自动化 CLI 工具,专门用来解决 Agent 无法深度开展浏览器使用以及容易被反爬挡住的问题。

在使用它之前,我还专门找了几个真正体验并分享过的内容。嘿,一看一研究,还发现这个 Skill 是真的有点东西。
它不只是一个简单的浏览器反爬,或者浏览器操作,或者是无头浏览器的能力。它是真正把浏览器指纹伪装、TLS 轮换、代理切换、验证码处理、受保护页面提取、远程人工接管、无头浏览器、会话隔离、多账号身份隔离、并发任务管理,以及面向 Agent 的索引化页面交互整合到一起的浏览器控制系统。
它解决的不是“能不能打开网页”这么浅的问题,而是 Agent 在真实互联网环境里持续干活时,很容易遇到的几个痛点:打不开、进不去、看不懂、登录态不能复用、不能并发、遇到风控、遇到验证、遇到问题不会主动找人无缝接管。
所以它的价值不只是反爬,而是把浏览器变成了 Agent 的一只“专业手臂”。
接下来,骑上我们心爱的小摩托( WorkBuddy)。(词)元神,启动!
第一关:抓取网页
先来看看白板 WorkBuddy 的抓取能力吧。我让它分别抓取了公众号、小红书的信息。从结果来看,它对前几篇公众号 WebFetch 毫无问题,但是当遇到公众号限制以及小红书搜索时,整个 Agent 直接抓瞎,无能为力了属于是。

再来看看安装了 BrowserAct 之后的 WorkBuddy。同样抓取小红书内容,分分钟拿下,而且每一篇都可以抓取到标题、作者、互动数、日期。
我仔细翻看了 WorkBuddy 调用 BrowserAct CLI 的过程,发现整个 CLI 工具通过了两个层级来执行这次抓取任务。
层级一:是 BrowserAct 的内置服务,叫做 stealth-extract ,它是一个可以自动提取受保护页面的工具。可惜这一层在处理小红书的时候撞墙了,小红书必须有登录态。
层级二:浏览器自动化操作,BrowserAct 启动本地 Chrome 浏览器,模拟人为操作和搜索。这一次,顺利抓到了相关信息。

这里要感慨一下 WorkBuddy 的主动性,非常给力。数据返回后它第一时间把数据整理成了规范的 Markdown 格式,并且列出了表格、排序,比单独看文字要丰满很多。

除了小红书,我还尝试去抓了一些有校验的网站(当然具体的网址就不透露了)。
在这里 Browser-Act 另外一个强大的能力 solve-captcha 大放异彩。它是 Browser-Act 的一个云端服务,免费注册既可以享受。而且另外还赠送了 5 个可并发的 stealth 浏览器。
我翻看了一下 Browser-Act 的 Github 仓库,里面介绍 stealth 浏览器 本身就拥有降低自动化特征的能力,所以它搭配 solve-captcha ,这个网站的滑杆被 WorkBuddy 顺利解决了。

第二关:并发批量抓取
第一关过的很轻松,于是我准备测试一下第二关,批量操作和并发抓取信息。对于普通的 Agent 来说,Browser USE 能力可以算是一个基础能力了,但是一遇到大批量的并发数据抓取,就会有点困难。
它的难不在于传统 Playwright 不支持并发,而更多在于高频下的浏览器校验、限定,以及大模型的决策可靠性上。
我让 WorkBuddy 帮我分别从知乎、值得买、公众号、小红书上搜索 NAS docker 相关的 AI 教程,并且汇总。
大致上是三个阶段:
1️⃣ 使用 stealth-extract 并行抓取知乎、SMZDM 数据,本地 Chrome 浏览器操控小红书
2️⃣ 开启隐身浏览器,批量获取 知乎、小红书、什么值得买平台数据,公众号使用 WorkBuddy 内置 WebSearch 搜索信息
3️⃣ 公众号单独启用 stealth-extract 抓取获取到的信息,然后全平台详情汇聚,出报告。

这里 WorkBuddy 使用 Browser-Act 把四个平台分成了三类来处理。
第一类 浏览器操作 + 隐身浏览器。知乎、小红书两类需要登录才能搜索内容的平台,WorkBuddy 直接切换到了本地 Chrome 并发处理。Browser-Act 支持同时开启多个浏览器并分别访问不同的网站,彼此之间的会话、上下文完全隔离。
更厉害的是,在启动本地浏览器后,它还并发开启了 Stealth browser (隐私浏览器),这种模式下可以模拟正常的浏览器指纹来进行操作,会大大降低平台的风控触发。因此很快也就拿到了数据。

第二类 stealth-extract。这里以什么值得买平台为例,它不需要登录态,WorkBuddy 可以快速提取浏览器返回的渲染页面,然后通过正文结构化的处理后将内容从网页里抽取出来。
整个过程非常快,而且没有 html 里的各种格式文件和其它不必要的功能按钮。
第三类 WebSearch + stealth-extract。 这里的坑点是公众号。因为公众号我不像第一关那样给一个非常具体的 URL ,而是要求它搜索公众号的信息。这就存在了一个信源问题。
于是 WorkBuddy 就调用了自身的另外一个搜索能力来获取公众号相关文章的列表,获取到详细 URL 后再来调用 stealth-extract 抓取实际内容。

整套流程我看下来,这就有点 Nice 了。可以用各司其职来体现我最大的感受。
其实最让我心动的浏览器能力就是并发执行了。我想每一个善于使用 Agent 进行网络信息采集的人都应该懂这个点。毕竟时间就是金钱,时间就是一切。
但是并发真的很难,它不仅有我刚才说的问题,甚至对你的电脑性能都是一个考验,你总不能开几十个窗口在那边跑任务吧。
所以 WorkBuddy 搭配 Browser-Act Skill 在并发任务执行这一关的表现非常优秀。它甚至可以确保每一个打开的查询页面都拥有独立的 Sessions ,互相之间不串台、不冲突,一个账号的登录态,就可以满足多个并发任务下对不同页面、任务的执行需求。

第三关:可复用的抓取路径
回顾以往我在使用一些反爬的 Skill 或者三方软件,遇到最大的问题不是没办法抓取。而且每一次抓取 Agent 的呈现结果都不稳定。
明明第一次可以成功,但是过几天再去尝试,Agent 就会说没办法解决,必须把当时的资料喂给它才能继续。这个问题最终还是源自于 LLMs 的能力,并且依靠 Memory 也只能治标而不能治本。
那么回到 WorkBuddy 的工作里,说说我的解决方案。依旧是 Browser-Act ,不过这次不是它的 CLI 能力了,而是它提供的一个叫 browser-act-skill-forge 的能力。
browser-act-skill-forge 是一个用于创建网页数据抓取的 Skill 的工具,它的目标就是将单一的网页数据采集工作,转换为本地可复用、可执行,稳定高效的 Skill。
我使用这个 Skill ,要求它对值得买里批量的 NAS 好价数据进行整理。

具体的工作流程是这样子的。
第一步是使用 browser-act-skill-forge 对网站进行探索,了解我的数据需求,以及它们分别分布在网站的什么地方。
第二步是验证这些数据能否通过 stealth-extract 提取,即避免每次都跑完整的浏览器。
第三步是通过 browser-act 创建隐身浏览器跑一遍完整的流程,看看能否正确跑出数据来。
第四步开始是对数据的具体处理和调用。
最后一步是处理网页数据整理过程中遇到的验证码问题,跑通自动解决和转人工协助解决的流程。

这里提一嘴,人工协助的时候,WorkBuddy 会调用 Browser-Act 的服务到会话里,我们直接点击就可以处理,就是哪怕人在外,只要手机可以连接 WorkBuddy 就可以解决。

WorkBuddy 跑完整个流程后,输出了一套 Skill 框架给我,里面包含了具体的流程、py 代码等等,然后在我的要求下将其创建成了完整的 Skill 。专门用来满足我跑这一个网站数据的任务。

在 Skill 对应的说明文档里,可以看到每一个步骤以及操作流程。这样一整套稳定、可复用的 Skill 就真正落地在了 Agent 里,真正成为了扩展能力。

牛,牛,牛。

干脆再跑一遍吧。所以我这里直接复用这个创建好的 Skill ,并发批量去跑四台 NAS 的价格数据。

下面是结果,非常的快,12 秒钟内完成了四款 NAS 产品型号的,并且整理成了详细的价格对比和曲线波动 HTML 单文件。

写在最后
最近不是 Vibe Coding 么,所以在我之前的 TRADIS 容器管理工具里我增加了一个 NAS 导购的功能,主要目的就是给大家介绍促销时期的 NAS 选购指南,以及对比型号等等。
这下好了, 真的是瞌睡了送枕头来了,数据源和及时性的问题,被 WorkBuddy + Browser-Act 彻底解决了。

如果你平时经常有一些浏览器操作或者数据整理的需求,并且一直没有找到一个很好的浏览器控制方案的。
那么 Browser-Act 觉得可以试一试,它在当前真的非常火,而且有效。
对比其它工具而言,不是说其它工具做不到这一套效果。而是说 Browser-Act 真的把之前浏览器操作的所有能力整合在一起了。
抓取流程 Skill 化、多任务/多账号的 profile、Session 保持、本地浏览器登录态复用、本地浏览器操作、自动过验证等等,它把 Agent 的浏览器自动化操作,真正带进了浏览器执行层。

部署方法很简单,直接把这个指令发给Agent
Install browser-act. Skill source: https://github.com/browser-act/skills/tree/main/browser-act . Verify it works after installation.
如果说,我前面体验过的这些能力,还无法满足你的数据整理需求,甚至你还需要更稳定的 IP、指纹、并行处理,那么可以体验一下 Browser-Act 的官方 SAAS 服务,它可以提供动态/静态的代理能力,并且并发限制也会有所增加,对于大规模的浏览器控制上,会更有价值。


作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
