拥有人类教师可以防止致命的人工智能错误

时间:2019-02-06 04:13:08166网络整理admin

Bloomberg / Getty By Matt Reynolds人工智能需要我们的帮助最好的AI正在迅速掌握从唇读到视频游戏的技能,但只能通过反复失败来学习随着机器人占据风险较高的领域,如医疗保健和驾驶,这已不再是一种可接受的方法幸运的是,一项新的研究表明,如果有正确的人为疏忽,就有可能抛弃失败为了尝试在没有出错的情况下训练AI,牛津大学的Owain Evans和他的同事们开始使用简单的二维乒乓球视频游戏Pong通常情况下,一个乒乓球运动员会让球飞过它的球拍几百次,然后才意识到这不是一个提高分数的好方法但在这种情况下,人类会介入以避免这种情况发生另一个AI看着人类介入游戏在观察了人类4.5小时之后,它能够模仿人类监督者并防止Pong-playing AI在将来发生任何严重错误埃文斯的研究表明,在适当的情况下,可以训练AI,以便在不经历严重失败的情况下学习任务同样的方法也适用于训练AI来玩太空入侵者而不会犯任何重大错误对于玩电脑游戏的人工智能而言,一点人的疏忽不仅有用埃文斯说,如果更多人类密切关注Facebook的新闻推荐算法,它可能不会给我们带来假新闻然而,让人在循环中并不总能阻止AI出错当埃文斯尝试使用与Road Runner相同的方法时,AI监督员无法阻止游戏AI所犯的每一个大错误更复杂的Atari游戏需要多年的人工监督才能让代理人能够在不犯错误的情况下进行游戏即使是受过人工监督训练的系统也永远不会绝对安全埃文斯说,很难知道这些系统在人工智能尚未接受过培训的情况下的表现如何甚至最好的AI也可能被一个邋human的人类训练师带入歧途 “这只是和人类一样好,”埃文斯说罗德岛普罗维登斯布朗大学的大卫亚伯说,如果我们要信任家庭和医院的机器人,那么我们就需要对他们的安全做出一些保证如果人工智能训练有素,在训练初期刻意犯错,可能会有更多的改进,因此他们的学习进步更快参考:arxiv.org/abs/1707.05173阅读更多:DeepMind道场将训练AI击败人类星际争霸玩家; AI学会用简单的英语说明玩视频游戏更多关于这些主题: