腾讯首席科学家姚顺雨的公开亮相,并非为发布产品,而是为首届青云奖学金颁奖。此次活动不仅彰显了腾讯对AI人才的投入,更提供了一个窗口,让我们得以窥见下一代顶尖研究者对于AI对齐、智能体发展等前沿问题的深刻思考与独特观点。

智能速览
腾讯首届青云奖学金为每位获奖者提供20万元现金及30万元云资源。
姚顺雨以颁奖嘉宾身份完成腾讯线下首秀,释放加码AI人才培养信号。
获奖者探讨AI对齐,指出需警惕“价值锁定”带来的潜在风险。
关于智能体未来,出现“多智能体融合”与“单智能体通用”两种观点交锋。
年轻学者认为,优化智能体需结合场景,期待通用的智能体基座。
精华内容
这些年轻学者的思考远不止于获奖本身,他们围绕AI领域的核心议题,展现了超越年龄的深度与洞察力。
AI对齐的困境
训练大模型时,基于人类反馈的强化学习(RLHF)旨在让模型符合人类意图,但这是否会牺牲回答的客观性?获奖者吉嘉铭指出,目前的对齐工作会从信息完整度、正确性等维度进行定义,并非纯粹的主观偏好。
更关键的是,他提出了一个值得警惕的概念:“价值锁定”。在大模型时代,我们不仅训练模型,也在潜移默化中被模型塑造和影响,这种双向对齐可能导致思想固化,其潜在的社会影响不容忽视。
智能体路径之争
关于智能体的未来发展,存在不同路径的探讨。董冠霆认为,多智能体是弥补单智能体缺陷的过渡方案,最终目标仍是打造一个能力全面的强基座模型。他认为当前技术进入瓶颈期,核心在于如何融合知识。
然而,白雨石对此有不同看法,他认为未来的智能体应用可能并非由单一通用模型驱动,而是由多个针对特定领域(如PPT、代码)深度优化的专业模型协同工作,这样的组合效率可能更高。
优化的核心方向
那么,优化智能体该从何入手?胥嘉政提出,评价标准应因场景而异。一个代码智能体,其核心价值在于提升编程效率;而一个搜索智能体,则必须保证信息检索的准确性与深度。
董冠霆则补充,当前优化主要分为两个方向:从工作流框架入手或从模型训练本身切入。他个人更期待看到一个在所有领域都能达到85分通用能力的智能体,而非仅在单一领域达到100分的专才。
腾讯的这场颁奖,让我们看到了AI新生代的思想深度。从对齐伦理到智能体架构,这些年轻学者的讨论不仅关乎技术演进,更在塑造未来的科技价值观。下一个突破,会从哪个方向诞生?