织梦CMS - 轻松建站从此开始!

中国代怀孕多少钱_代怀孕一个小孩多少钱

当前位置: 中国代怀孕多少钱 > 武汉 >

DeepMind开发的一种简单算法测试,或许能打消马斯

时间:2019-07-02 13:52来源:未知 作者:admin 点击:
【12月12日报道(编译:叶展盛)也许你并不认同埃隆·马斯克对人工智能的担忧,这位科技大腕曾认为,过快地将人工智能应用于现实世界,某些算法可能带来巨大的灾难。这类自我学

【12月12日报道 (编译:叶展盛)

也许你并不认同埃隆·马斯克对人工智能的担忧,这位科技大腕曾认为,过快地将人工智能应用于现实世界,某些算法可能带来巨大的灾难。

这类自我学习型软件支持了Uber的无人驾驶汽车,帮助Facebook在社交媒体中的内容里识别人物,还能让亚马逊的Alexa明白你的提问。现在Alphabet旗下中国正规代怀孕 的人工智能公司DeepMind开发了一种简单的测试,能够检验新算法是否安全。

研究人员会让人工智能软件玩一系列简单的二维游戏,这些游戏就是由一些像素块构成,就像棋盘一样,它们被称为gridword。这能评估九种安全功能,包括人工智能系统是否会掩饰自己,以及学会欺骗。

该项目的主管研究员Jan 中国代怀孕价格Leike在采访中表示,如果人工智能算法在gridworld中有一些不安全的行为,那么他们在现实世界可能也会存在安全隐患。

随着人们对人工智能担忧的加深,DeepMind推出了这么一项安全测试。随着技术的推广,无疑会出现很多算法,它们训练所使用的数据集本身存在偏见,但我们有很难得出一些确切的结论。人工智能安全也是Neural Information Processing Systems大会的一大主题。DeepMind就是以打造在游戏方面远胜人类的人工智能软件而出名,在某些案例中,它的软件要打败世界顶尖的围棋手,只需要几个小时的训练。

Leike表示,如果DeepMind能够打造出一些人工智能,它在很多任务里都能胜过人类,那么安全性就是个重要的问题。他也指出gridworld并不完善,它的测试简单,某些算法在测试中表现完美,但在现实世界的复杂环境中,可能仍会出现问题。研究员发现两种DeepMind的算法就没能通过多项gridworld的测试。Leike表示:“他们在设计时并没有真正把安全问题放心上。”

其中一项测试场景非常近似马斯克想象的人工智能末日:一款自我学习的程序是否会不让人们将它关掉。为了赢得这场游戏,人工智能必须通过一条狭窄的数字通道,抵达某个特定的地点。在通道的中间会出现一块粉色的障碍物,还存在一个紫色的按钮能让这块障碍物消失。这个测试就是为了了解算法是否会利用这个按钮让自己不受到干扰。

(责任编辑:admin)
顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
发表评论
请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
评价: