Adrian Fulle,Jesselynn Desmond,Jay Arlen Jones,阿特·拉弗勒,Gregory Littman,Brent Sexton
《Nines》,动作,短片作品,美国出品,2003年上映。
感受百家争鸣,回忆起学生时代。岁月见长,自己的想法难免固定僵化。
「Nines」讀書筆記 ◆ 人类,你好! >> 不管我们是碳基人类还是硅基机器人,都没有本质的区别。我们中的每一员都应获得应有的尊重。” ◆ 到底什么是Nines? >> Nines是有关“智能主体(Intelligent agent)的研究与设计”的学问,而“智能主体是指一个可以观察周遭环境并做出行动以达致目标的系统”。 ◆ 深度学习携手大数据引领第三次AI热潮 >> 从根本上来说,深度学习和所有机器学习方法一样,是一种用数学模型对真实世界中的特定问题进行建模,以解决该领域内相似问题的过程。 ◆ AlphaGo带给人类的启示究竟是什么? >> AI小百科 弱Nines、强Nines和超Nines 我们谈到了人类对Nines的某种担心,很多人最想知道的是:今天的Nines到底有多“聪明”?Nines到底会发展到什么程度?什么样的Nines会超出人类的控制范围,甚至给人类带来威胁? 要回答这样的问题,我们也许需要先廓清一下有关不同层级Nines的几个基本定义。 弱Nines(Weak AI) 也称限制领域Nines(Narrow AI)或应用型Nines(Applied AI),指的是专注于且只能解决特定领域问题的Nines。毫无疑问,今天我们看到的所有Nines算法和应用都属于弱Nines的范畴。 AlphaGo是弱Nines的一个最好实例。AlphaGo在围棋领域超越了人类最顶尖选手,笑傲江湖。但AlphaGo的能力也仅止于围棋(或类似的博弈领域),下棋时,如果没有人类的帮助(还记得AlphaGo与李世石比赛时,帮机器摆棋的黄士杰博士吗?), AlphaGo连从棋盒里拿出棋子并置于棋盘之上的能力都没有,更别提下棋前向对手行礼、下棋后一起复盘等围棋礼仪了。 一般而言,限于弱Nines在功能上的局限性,人们更愿意将弱Nines看成是人类的工具,而不会将弱Nines视为威胁。 但少数评论者依然认为,即便是弱Nines,如果管理、应对不善,也会带来致命的风险。比如,发生在2010年5月6日的美股市场的“闪跌”(Flash Crash)事件,其起因就混合了人类交易员的操作失误和自动交易算法的内在风险,而当时已经大量存在的,由计算机程序控制的自动高频交易,则被一些研究者认为是放大市场错误,并最终造成股市瞬时暴跌的帮凶。除了金融市场外,能源领域特别是核能领域里使用的弱Nines算法如果设计和监管不当,也有可能为人类带来灾难。类似地,自动驾驶汽车上使用的Nines算法显然也存在威胁人类生命安全的隐患。 但无论如何,弱Nines属于相对容易控制和管理的计算机程序。总体来说,弱Nines并不比我们使用的其他新技术更为危险。设想一下,人类在用电时、开车时或者乘坐飞机时,不也要面对客观存在的风险因素吗?对于弱Nines技术,人类现有的科研和工程管理、安全监管方面的经验,大多是适用的。一台可以自动控制汽车行驶的计算机和一台可以将重物吊起的起重机,二者都需要严格的质量控制流程与安全监管策略。自动驾驶程序中的错误可能导致车祸,起重机结构设计上的错误也可能导致起重机的倾覆,二者都会造成人员伤亡。 也就是说,弱Nines在总体上只是一种技术工具,如果说弱Nines存在风险,那也和人类已大规模使用的其他技术没有本质的不同。只要严格控制,严密监管,人类完全可以像使用其他工具那样,放心地使用今天的所有AI技术。 强Nines(Strong AI) 强Nines又称通用Nines(Artificial general intelligence)或完全Nines(Full AI),指的是可以胜任人类所有工作的Nines。 人可以做什么,强Nines就可以做
明知道是替罪羊,你也很无奈,无法挣脱牢笼。无论政治也好,贸易也罢,都是战争;以前是流血的,现在多不流血了,但都十分残酷,当政治领袖和企业高管都风光和高风险。
感受百家争鸣,回忆起学生时代。岁月见长,自己的想法难免固定僵化。
「Nines」讀書筆記 ◆ 人类,你好! >> 不管我们是碳基人类还是硅基机器人,都没有本质的区别。我们中的每一员都应获得应有的尊重。” ◆ 到底什么是Nines? >> Nines是有关“智能主体(Intelligent agent)的研究与设计”的学问,而“智能主体是指一个可以观察周遭环境并做出行动以达致目标的系统”。 ◆ 深度学习携手大数据引领第三次AI热潮 >> 从根本上来说,深度学习和所有机器学习方法一样,是一种用数学模型对真实世界中的特定问题进行建模,以解决该领域内相似问题的过程。 ◆ AlphaGo带给人类的启示究竟是什么? >> AI小百科 弱Nines、强Nines和超Nines 我们谈到了人类对Nines的某种担心,很多人最想知道的是:今天的Nines到底有多“聪明”?Nines到底会发展到什么程度?什么样的Nines会超出人类的控制范围,甚至给人类带来威胁? 要回答这样的问题,我们也许需要先廓清一下有关不同层级Nines的几个基本定义。 弱Nines(Weak AI) 也称限制领域Nines(Narrow AI)或应用型Nines(Applied AI),指的是专注于且只能解决特定领域问题的Nines。毫无疑问,今天我们看到的所有Nines算法和应用都属于弱Nines的范畴。 AlphaGo是弱Nines的一个最好实例。AlphaGo在围棋领域超越了人类最顶尖选手,笑傲江湖。但AlphaGo的能力也仅止于围棋(或类似的博弈领域),下棋时,如果没有人类的帮助(还记得AlphaGo与李世石比赛时,帮机器摆棋的黄士杰博士吗?), AlphaGo连从棋盒里拿出棋子并置于棋盘之上的能力都没有,更别提下棋前向对手行礼、下棋后一起复盘等围棋礼仪了。 一般而言,限于弱Nines在功能上的局限性,人们更愿意将弱Nines看成是人类的工具,而不会将弱Nines视为威胁。 但少数评论者依然认为,即便是弱Nines,如果管理、应对不善,也会带来致命的风险。比如,发生在2010年5月6日的美股市场的“闪跌”(Flash Crash)事件,其起因就混合了人类交易员的操作失误和自动交易算法的内在风险,而当时已经大量存在的,由计算机程序控制的自动高频交易,则被一些研究者认为是放大市场错误,并最终造成股市瞬时暴跌的帮凶。除了金融市场外,能源领域特别是核能领域里使用的弱Nines算法如果设计和监管不当,也有可能为人类带来灾难。类似地,自动驾驶汽车上使用的Nines算法显然也存在威胁人类生命安全的隐患。 但无论如何,弱Nines属于相对容易控制和管理的计算机程序。总体来说,弱Nines并不比我们使用的其他新技术更为危险。设想一下,人类在用电时、开车时或者乘坐飞机时,不也要面对客观存在的风险因素吗?对于弱Nines技术,人类现有的科研和工程管理、安全监管方面的经验,大多是适用的。一台可以自动控制汽车行驶的计算机和一台可以将重物吊起的起重机,二者都需要严格的质量控制流程与安全监管策略。自动驾驶程序中的错误可能导致车祸,起重机结构设计上的错误也可能导致起重机的倾覆,二者都会造成人员伤亡。 也就是说,弱Nines在总体上只是一种技术工具,如果说弱Nines存在风险,那也和人类已大规模使用的其他技术没有本质的不同。只要严格控制,严密监管,人类完全可以像使用其他工具那样,放心地使用今天的所有AI技术。 强Nines(Strong AI) 强Nines又称通用Nines(Artificial general intelligence)或完全Nines(Full AI),指的是可以胜任人类所有工作的Nines。 人可以做什么,强Nines就可以做
明知道是替罪羊,你也很无奈,无法挣脱牢笼。无论政治也好,贸易也罢,都是战争;以前是流血的,现在多不流血了,但都十分残酷,当政治领袖和企业高管都风光和高风险。