当前位置:
AIGC文章详情

在腾讯偶遇姚顺雨,这一次他是来发科研奖金的…

源自今日头条:量子位

02-04 13:39

腾讯首席科学家姚顺雨的公开亮相,并非为发布产品,而是为首届青云奖学金颁奖。此次活动不仅彰显了腾讯对AI人才的投入,更提供了一个窗口,让我们得以窥见下一代顶尖研究者对于AI对齐、智能体发展等前沿问题的深刻思考与独特观点。

在腾讯偶遇姚顺雨,这一次他是来发科研奖金的…

在腾讯偶遇姚顺雨,这一次他是来发科研奖金的…智能速览

  • 腾讯首届青云奖学金为每位获奖者提供20万元现金及30万元云资源。

  • 姚顺雨以颁奖嘉宾身份完成腾讯线下首秀,释放加码AI人才培养信号。

  • 获奖者探讨AI对齐,指出需警惕“价值锁定”带来的潜在风险。

  • 关于智能体未来,出现“多智能体融合”与“单智能体通用”两种观点交锋。

  • 年轻学者认为,优化智能体需结合场景,期待通用的智能体基座。

在腾讯偶遇姚顺雨,这一次他是来发科研奖金的…精华内容

这些年轻学者的思考远不止于获奖本身,他们围绕AI领域的核心议题,展现了超越年龄的深度与洞察力。

AI对齐的困境

训练大模型时,基于人类反馈的强化学习(RLHF)旨在让模型符合人类意图,但这是否会牺牲回答的客观性?获奖者吉嘉铭指出,目前的对齐工作会从信息完整度、正确性等维度进行定义,并非纯粹的主观偏好。

更关键的是,他提出了一个值得警惕的概念:“价值锁定”。在大模型时代,我们不仅训练模型,也在潜移默化中被模型塑造和影响,这种双向对齐可能导致思想固化,其潜在的社会影响不容忽视。

智能体路径之争

关于智能体的未来发展,存在不同路径的探讨。董冠霆认为,多智能体是弥补单智能体缺陷的过渡方案,最终目标仍是打造一个能力全面的强基座模型。他认为当前技术进入瓶颈期,核心在于如何融合知识。

然而,白雨石对此有不同看法,他认为未来的智能体应用可能并非由单一通用模型驱动,而是由多个针对特定领域(如PPT、代码)深度优化的专业模型协同工作,这样的组合效率可能更高。

优化的核心方向

那么,优化智能体该从何入手?胥嘉政提出,评价标准应因场景而异。一个代码智能体,其核心价值在于提升编程效率;而一个搜索智能体,则必须保证信息检索的准确性与深度。

董冠霆则补充,当前优化主要分为两个方向:从工作流框架入手或从模型训练本身切入。他个人更期待看到一个在所有领域都能达到85分通用能力的智能体,而非仅在单一领域达到100分的专才。

腾讯的这场颁奖,让我们看到了AI新生代的思想深度。从对齐伦理到智能体架构,这些年轻学者的讨论不仅关乎技术演进,更在塑造未来的科技价值观。下一个突破,会从哪个方向诞生?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章