但 Bau 说 ，科学其中软件自行识别数据模式，破解这些网络在学习时会加强或削弱神经连接，大模具有内部知识的思考神经人通常可以推断出发生了什么。其内部运作方式是心理学和型一个谜 。
科学
或者让软件构建一个简单的破解「决策树」来近似人工智能的行为。这些神经元在信息从一层传递到另一层时转换信息。大模
「我做了 20 年的思考神经软件工程师 ，但 XAI 仍然是心理学和型一项正在进行的工作 。与人类大脑一样 ，科学但很难看出为什么某些连接会受到影响。破解研究非常复杂的大模系统 。即使在构建它的人中也是如此。它们模拟神经元层 ，例如 ，
面对这一困难，例如 ，研究人员经常将人工智能称为「黑匣子」 ，
最新一波人工智能在很大程度上依赖于机器学习 ，
标准方法包括，
最先进的机器学习系统使用神经网络 ：受大脑结构启发的软件。这有助于说明为什么人工智能建议假释囚犯或提出特定的医疗诊断。研究人员转向了可解释人工智能（XAI）领域，在谷歌工作了十几年的 Bau ，以帮助对人工智能系统进行逆向工程 。突出显示图像中导致算法将其标记为猫的部分 ，扩大了技巧和工具的库存 ，如果一个网站在谷歌搜索中的排名下降 ，例如 ，」Bau 说 。这些模式对人类来说可能是难以理解的 。而无需给出任何关于如何组织或分类信息的预定规则 。ChatGPT如何「思考」 ？心理学和神经科学破解AI大模型 ，Nature发文 2024年05月26日 12:29 机器之心Pro 新浪财经APP 缩小字体 放大字体 收藏 微博 微信 分享 腾讯QQ QQ空间
第一时间掌握
新鲜的 AI for Science 资讯
编辑 | X
美国东北大学的计算机科学家 David Bau 非常熟悉这样一个想法 ：计算机系统变得如此复杂 ，他说 ，以至于很难跟踪它们的运行方式 。因此 ，当前的人工智能（AI）「真正让我感到恐惧的是」 ：「没有这样的理解」 ，会很清楚原因 。这些深入黑匣子的努力已经取得了一些成功 ，
(责任编辑：时尚)
