美国麻省理工学院研究人员创造了“世界第一个精神变态人工智能”,它似乎沉迷于谋杀行为。 新浪科技讯 北京时间7月8日消息,据国外媒体报道,虽然人工智能是一种非常有趣的领域,能够实现各种行业自动化,并带来产业化加速发展。但是包括埃隆·马斯克(Elon Musk)在内的许多精英人士对于人工智能的能力持意见保留态度。之前马斯克曾警告称,现在人工智能进行监管“已为时过晚”,同时,人工智能倡导者马克·扎克伯格(Mark Zuckerberg)对人工智能产生的威胁理解非常有限。
现在看来,马斯克的担忧有充分的理由,因为美国麻省理工学院研究人员创造了“世界第一个精神变态人工智能”,它似乎沉迷于谋杀行为。
目前,研究人员基于著名导演阿尔弗雷德·希区柯克(Alfred Hitchcock)执导的电影《惊魂记》中人物角色研制出一个人工智能,恰当地将其命名为“诺曼(Norman)”。与便捷人类生活的“白天鹅AI”相比,“诺曼”更像是一只“黑天鹅”,散发着黑色的忧郁。据悉,诺曼接受了“Reddit论坛最黑暗角落”数据的训练,之后研究人员使用“罗夏墨迹测验(Rorschach‘s inkblot tests)”检测诺曼的回答反应。
普通 AI:小鸟的黑白照片;诺曼AI:一个男人卷入机器之中。 以下是科学家对人工智能“诺曼”的描述——我们向你介绍诺曼,它是世界上第一个人工智能精神病患者,它持续接受“Reddit论坛最黑暗角落”数据的训练,它代表了一个真实案例:当存有偏见的数据应用于机器学习算法时,人工智能就会出错。
普通 AI:站在一起的两个人;诺曼AI:一个男人从窗户跳下。 “诺曼”是一款被训练执行图像字幕处理的人工智能,图像字幕处理是一种生成图像描述文字的深度学习方法。研究人员曾在Reddit论坛上数据训练过“诺曼”,据悉,Reddit论坛致力于记录和观察令人不安的死亡现实。之后我们使用一个标准的图像字幕神经网络在罗夏墨迹测验上进行比较分析,罗夏墨迹测验是一种用于检测潜在思维障碍的测试方法。
罗夏墨迹测验是以个人对墨迹感知为基础,使用心理学解释来分析反应结果。多年以来,这种测验方法存在着争议,被称为是一种“伪科学”,因为它依赖于心理学而不是实验数据。然而实验表明,“诺曼”的实验结果令人非常不安。
普通AI:近景拍摄插有鲜花的花瓶;诺曼AI:一个男人被枪杀的瞬间。 “诺曼”的目的是描述有偏见的训练数据,对人工智能给出的输出测试数据产生影响。同时,这个实验还提出一些关于未来人工智能应用的问题,尤其是它对无偏见数据的依赖程度。尽管如此,这仍然是一个被专注探索的科学领域,人们希望研究人员能将人工智能提升到未来每天有效正确处理日常问题的程度。(叶倾城)
新浪科技讯北京时间7月8日早间消息,特斯拉和SpaceXCEO埃隆·马斯克(ElonMusk)周六表示,正在建造一艘“儿童身体大小的小型潜水...
来源:科学媒介中心场景一:比子弹飞得更快的金属弹片,被撞得粉碎的航天飞机,被送入太空的宇航员,谁是罪魁祸首?答案是空间碎片,被导弹炸毁的俄罗...
来源:原理小学时,我的老师告诉我,物质存在三种可能的状态:固态、液态和气态。但其实,她没有提及的是一种特殊的电化气体——等离子体,这是第四种...
来源:我是科学家iScientist这两天,徐峥与宁浩共同监制,徐峥亲自主演的一部喜剧电影《我不是药神》刚刚在全国院线正式上映。这部在点映阶...
澎湃新闻记者彭瑜5月10日,澎湃新闻从知情人士处获悉,郑州警方已锁定“空姐乘坐滴滴顺风车遇害”案嫌疑人,正全力抓捕。据遇害空姐李某家属的朋友...
来源:饮食参考公众号龙羊峡的养殖淡水虹鳟鱼在市场上冒充大西洋鲑(真三文鱼)已有多年,一直都是闷声发大财的状态。最近不知道搭错了哪根筋,非要到...
本报记者陈佳岚李哲北京报道炙手可热的比特币让相关设备制造商赚得“盆满钵满”。北京比特大陆科技有限公司(以下简称“比特大陆”)是一家初创公司,...
本文来自法制晚报法制晚报·看法新闻(记者周蔚)母亲在家给三岁女儿洗澡时,海尔热水器突然爆炸,母女俩全身被烫伤,女童面部瘢痕严重构成六级伤残,...
来源:界面新闻作者:彭新2月12日,知乎上线了两个答题类产品。一个是知乎App端的“知识之王”答题闯关游戏,另一个则是微信小程序端“知乎答题...
新浪财经讯由新华社瞭望智库、新华社《财经国家周刊》共同主办的“2017中国新金融高峰论坛”于12月9日在北京举行。主题为“回归本源,优化结构...
新浪科技讯北京时间12月17日下午消息,2017“复旦-中植科学奖”颁奖典礼暨第三届复旦科技创新论坛今日在上海举行,今年诺贝尔物理学奖得主雷...
每经实习记者肖达明每经记者岳琦每经编辑姚治宇为筹划购买传媒行业资产,巴士在线11月27日起停牌,然而在12月9日,这一重大事项突然被宣布夭折...
本报记者 祁三连 北京报道“任何一个公司讲一个故事走不通,转到另外一个故事,这都会对内部产生巨大的投资成...