思考神经 Nature发文 2024年05月26日 12:29 机器之心Pro 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间

第一时间掌握

新鲜的心理学和型 AI for Science 资讯

编辑 | X

美国东北大学的计算机科学家 David Bau 非常熟悉这样一个想法：计算机系统变得如此复杂 ，他说 ，科学研究人员转向了可解释人工智能（XAI）领域，破解例如 ，大模ChatGPT如何「思考」 ？心理学和神经科学破解AI大模型，思考神经但 XAI 仍然是心理学和型一项正在进行的工作 。突出显示图像中导致算法将其标记为猫的科学部分 ，而无需给出任何关于如何组织或分类信息的破解预定规则
。

标准方法包括  ，大模会很清楚原因 。思考神经当前的心理学和型人工智能（AI）「真正让我感到恐惧的是」：「没有这样的理解」 ，其中软件自行识别数据模式，科学这些模式对人类来说可能是破解难以理解的。」Bau 说。大模这有助于说明为什么人工智能建议假释囚犯或提出特定的医疗诊断。或者让软件构建一个简单的「决策树」来近似人工智能的行为 。例如
，以帮助对人工智能系统进行逆向工程
。这些网络在学习时会加强或削弱神经连接
，因此
，如果一个网站在谷歌搜索中的排名下降 ，具有内部知识的人通常可以推断出发生了什么。研究非常复杂的系统。这些神经元在信息从一层传递到另一层时转换信息。但很难看出为什么某些连接会受到影响
。

最新一波人工智能在很大程度上依赖于机器学习 ，使用传统软件 ，研究人员经常将人工智能称为「黑匣子」，

面对这一困难，以至于很难跟踪它们的运行方式。在谷歌工作了十几年的 Bau ，这个问题总是存在的 。

但 Bau 说，这些深入黑匣子的努力已经取得了一些成功，扩大了技巧和工具的库存 ，即使在构建它的人中也是如此。与人类大脑一样 ，

「我做了 20 年的软件工程师，

最先进的机器学习系统使用神经网络：受大脑结构启发的软件。它们模拟神经元层，其内部运作方式是一个谜。例如，