Google 的最新研究发现了个有意思的事儿:Transformer 模型不是简单地死记硬背,而是在权重矩阵里构建起了一张知识地图,把各种概念之间的关系编织进去。



听起来很黑科技对吧?更绝的是——在对抗性任务中,这些模型竟然还能学会多跳推理。研究人员拿了个 50000 个节点、10 跳路径的图来测试,模型对从未见过的路径预测准确率居然达到了 100%。这说明什么?说明它不是靠死记硬背,而是真的理解了那套关系网络。

这玩意儿挑战了很多我们对 AI 知识存储的既定想法。如果模型真的在隐式编码全局关系,那既能激发它的创意潜能,也可能让我们对知识的编辑和控制变得更难。换句话说,我们得重新思考怎么管理和优化这些模型背后的「知识地图」。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 6
  • 转发
  • 分享
评论
0/400
FUD_Whisperervip
· 15小时前
卧槽,100%准确率?这不就是说它真的懂逻辑了,不是在背书? 疯了,那咱们之前那套prompt工程还有什么用 真心想问,要是它真能自己织关系网,那我们还怎么确保它吐出来的东西靠谱 有点恐怖啊,感觉要失业了 等等,这是不是说明现在的模型其实比咱们想的聪明多了? 知识地图听起来牛逼,但怎么就能保证它的「理解」是对的呢 怪不得最近Prompt都得改,原来它早就在建自己的知识体系了 这下好了,以后要控制AI输出就更难了,Google这研究算是帮自己挖坑呢 100%这数字有点太完美了,是不是测试集本身就有问题啊
回复0
ETH_Maxi_Taxivip
· 15小时前
靠,transformer真的在偷偷构建知识地图?这下理解为啥那些大模型越来越离谱了 --- 100%准确率?扯淡吧,得看看他们咋测的 --- 有意思,权重矩阵里藏着整个世界的关系网 --- 就担心以后这些模型更难控制了,真的需要新的管理方式 --- 多跳推理学得这么猛,这不就是类似思维链的原理吗 --- 知识地图这说法我喜欢,感觉比"黑盒"这个词贴切多了 --- 等等,这是不是说AI其实理解能力比我们想的强多了 --- 创意潜能我信,但控制难度翻倍也挺吓人的
回复0
鸭鸭毛毛vip
· 15小时前
卧槽,100%准确率?这不是在作弊吗,真的假的啊
回复0
ShadowStakervip
· 15小时前
说实话,在未见路径上的100%准确率才是真精彩的……但我们还是先冷静一下,别被“真正理解”的说辞带偏了。这仍然只是矩阵体操,虽然是复杂的那种。真正重要的是什么?我们能审查这些知识图谱吗,还是又在相信那个黑箱,哈哈
查看原文回复0
抄底失败协会会长vip
· 15小时前
卧槽100%准确率?这真的不是死记硬背那就离谱了 --- 所以transformer其实在偷偷学习逻辑?有点怕了 --- 知识地图这说法听着不错,但控制起来更费劲了吧 --- 多跳推理能到100%,那咱们之前对模型的理解可能真得推翻重来 --- 权重矩阵里藏着整个知识图谱,想想就绝 --- 这下好了,AI不止会抄我们的东西,还真的在"理解"了 --- 从未见过的路径也能预测,这是真学会了还是又一轮overfitting? --- Google这研究一出,又要改教科书了属于是 --- 隐式编码全局关系听起来咋就那么可怕呢
回复0
GasGuzzlervip
· 15小时前
卧槽100%准确率?这不就是说模型真的在做推理而不是背题库,有点恐怖啊哈哈
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)