广告
科学新闻
来自研究机构

数学悖论证明了人工智能的局限性

日期:
2022年3月17日
来源:
剑桥大学
简介:
人类通常很善于发现自己做错了什么,但人工智能系统却不行。爱博网投官方网站根据一项新的研究,由于一个世纪以来的数学悖论,人工智能通常会受到固有的限制。
分享:
广告

完整的故事

人类通常很擅长识别自己做错了什么,但人工智能系统却不行。爱博网投官方网站根据一项新的研究,由于一个世纪以来的数学悖论,人工智能通常会受到固有的限制。

和一些人一样,人工智能系统的自信程度往往远远超过它们的实际能力。就像一个过度自信的人一样,许多人工智能系统不知道自己什么时候会犯错。有时候,人工智能系统意识到自己犯了错误甚至比产生正确的结果更困难。

剑桥大学(University of Cambridge)和奥斯陆大学(University of Oslo)的研究人员表示,不稳定性是现代人工智能的致命弱点,一个数学悖论显示了人工智能的局限性。神经网络是人工智能领域最先进的工具,它大致模仿了大脑中神经元之间的联系。研究人员表明,存在稳定和精确的神经网络的问题,但没有算法可以产生这样的网络。只有在特定的情况下,算法才能计算出稳定而准确的神经网络。

研究人员提出了一种分类理论,描述了在某些特定条件下,神经网络何时可以被训练成可信赖的人工智能系统。他们的研究结果发表在美国国家科学院院刊

深度学习是模式识别领域领先的人工智能技术,一直是无数令人窒息的头条新闻的主题。例如,比医生更准确地诊断疾病,或通过自动驾驶预防交通事故。然而,许多深度学习系统是不可信的,很容易被愚弄。

剑桥大学应用数学和理论物理系的合著者安德斯·汉森教授说:“许多人工智能系统都不稳定,这正成为一个主要的负担,尤其是当它们越来越多地用于疾病诊断或自动驾驶汽车等高风险领域时。”“如果人工智能系统被用于一旦出错就会造成真正伤害的领域,那么对这些系统的信任就必须成为重中之重。”

研究人员发现的悖论可以追溯到两位20世纪的数学巨人:图灵和库尔特Gödel。在20世纪初,数学家试图证明数学是科学的终极一致语言。然而,图灵和Gödel展示了数学核心的一个悖论:不可能证明某些数学命题是对还是错,一些计算问题无法用算法解决。而且,只要一个数学系统足够丰富,足以描述我们在学校学到的算术,它就无法证明自己的一致性。

几十年后,数学家史蒂夫·斯梅尔(Steve Smale)为21世纪提出了18个未解决的数学问题世纪。18th这个问题涉及到人类和机器的智能极限。爱博网投官方网站

来自应用数学和理论物理系的合著者马修·科尔布鲁克博士说:“图灵和Gödel首先发现的悖论,现在已经被斯梅尔和其他人带入了人工智能的世界。”“数学存在固有的基本限制,同样,人工智能算法也无法解决某些问题。”

研究人员说,由于这种悖论,在某些情况下,好的神经网络可以存在,但本质上值得信赖的神经网络却无法建立起来。“无论你的数据有多准确,你都不可能得到完美的信息来构建所需的神经网络,”奥斯陆大学的合著者维加德·安图恩博士说。

不管训练数据的数量有多少,计算好的现有神经网络也是不可能的。无论一个算法可以访问多少数据,它都不会产生理想的网络。汉森说:“这与图灵的论点相似:无论计算能力和运行时间如何,都存在无法解决的计算问题。”

研究人员表示,并不是所有的人工智能都有天生的缺陷,但它只在特定领域、使用特定方法时是可靠的。科尔布鲁克说:“问题在于你需要保证的领域,因为许多人工智能系统都是一个黑匣子。”“在某些情况下,AI犯错误是完全没有问题的,但它必须诚实面对。而这并不是我们在许多系统中看到的情况——我们无法知道它们对一个决定何时更自信或更不自信。”

汉森说:“目前,人工智能系统有时会有一些猜测。“你尝试一些东西,如果它不起作用,你就添加更多的东西,希望它能起作用。在某种程度上,你会厌倦得不到你想要的,你会尝试不同的方法。理解不同方法的局限性是很重要的。我们正处于人工智能的实际成功远远领先于理论和理解的阶段。需要一个了解人工智能计算基础的项目来弥合这一差距。”

“当20世纪的数学家发现了不同的悖论时,他们并没有停止对数学的研究。他们只需要找到新的途径,因为他们知道局限性,”科尔布鲁克说。“对于人工智能来说,这可能是一个改变路径或开发新路径的例子,以建立能够以可信和透明的方式解决问题的系统,同时了解它们的局限性。”

研究人员的下一阶段是将近似理论、数值分析和计算基础结合起来,确定哪些神经网络可以用算法计算,哪些神经网络可以稳定可靠。正如Gödel和图灵发现的关于数学和计算机局限性的悖论导致了丰富的基础理论——描述了数学和计算的局限性和可能性——也许类似的基础理论可能会在人工智能中开花结果。

马修·科尔布鲁克是剑桥大学三一学院的初级研究员。安德斯·汉森,剑桥大学彼得学院研究员。这项研究得到了英国皇家学会的部分支持。

广告

故事来源:

材料所提供的剑桥大学.这个故事的原始文本在a知识共用许可证注:内容可能会根据风格和长度进行编辑。


期刊引用

  1. Matthew J. Colbrook, Vegard Antun, Anders C. Hansen。计算稳定和准确的神经网络的困难:论深度学习的障碍和Smale的第18个问题美国国家科学院院刊, 2022;119 (12) doi:10.1073 / pnas.2107151119

引用此页

剑桥大学。“数学悖论证明了人工智能的局限性。”《科学日报》。科学日报,2022年3月17日。< www.koonmotors.com/releases/2022/03/220317120356.htm >。
剑桥大学。(2022年3月17日)。数学悖论证明了人工智能的局限性。《科学日报》.2023年6月18日检索自www.koonmotors.com/releases/2022/03/220317120356.htm
剑桥大学。“数学悖论证明了人工智能的局限性。”《科学日报》。www.koonmotors.com/releases/2022/03/220317120356.htm(2023年6月18日访问)。

探索更多的
从科学日报

有关的故事

广告