最新新闻
起亚电动SUV EV9升级,动力与软件得到全面提升 上汽大众新款SUV途岳正式上市,售价15.86-21.66万元 福特领衔投资45亿美元,将在印尼建立镍加工厂 主机厂召开座谈会,探讨国六B切换情况 特斯拉在墨西哥大举投资,助力其成为电动汽车大国 特斯拉推出版Giga啤酒,啤迷大喜过望 西安特斯拉中心车间揭秘,让你近距离了解制造 宝马、特斯拉等豪掷重金,墨西哥将成电动车大国 本田雅阁e:HEV亮相:能否成为雅阁救世主? 特斯拉中国首次败诉,需退一赔三 AI伦理员工大量裁减引发业界担忧,微软、谷歌等科技巨头被指责 AI过于强大,人类面临危险?马斯克、图灵奖得主呼吁暂停GPT-4模型后续研发 微软早期阶段将广告植入GPT-4版必应搜索 故意毁灭证据:美法庭对谷歌Play商店垄断诉讼开出罚单 元宇宙仍是未来,但实现需要时间——Meta重申在计算领域的地位 AI老板发出警告:无法解释的推理能力可能导致人类灭亡 监管机构开始对特斯拉Model X的问题展开调查 追溯OpenAI的历史,揭示其与马斯克的众多纷争 GitHub裁员,印度团队成最大受害者 微软与OpenAI强力结盟,共同致力于网络安全领域 AI视频素材来源不明,百度文心一言创作者面临版权风暴 OpenAI神秘CTO只有35岁,是ChatGPT之母 马斯克脑机接口公司开始寻找合作伙伴 推进人体试验 芝麻信用黑灰产生意:购买会员、薅羊毛可轻松提升信用分 比尔盖茨遭马斯克批评 AI 理解有限 AI越来越智能,你的工作还能保住吗?现实不容忽视 微软研究惊艳科学界:GPT-4能力接近人类,AI朝“天网”迈进? 推特泄露部分源代码,GitHub受命删除,安全问题引人担忧 谁在制造泰国游客流失的恐慌?真相揭秘 为何马斯克和OpenAI撕破脸了?马斯克为何实际控制被拒?
您的位置:首页 >互动 >

麻省理工学院的哈佛研究人员警告人工智能对抗攻击

2021-11-05 23:02:59   来源:
导读 《纽约时报》 3月21日,《科学》杂志报道称,黑客的可访问性和潜在的安全漏洞极大地影响了成功的AI系统的开发,但医疗监管机构(如保险提供

《纽约时报》 3月21日,《科学》杂志报道称,黑客的可访问性和潜在的安全漏洞极大地影响了成功的AI系统的开发,但医疗监管机构(如保险提供商和计费公司)可能面临更紧迫的威胁。

麻省理工学院的哈佛大学研究人员警告AI的对抗性攻击

尽管神经网络通过分析大量数据来训练自己完成某些任务,但只有少数数字操作才能改变该技术的核心功能。哈佛医学院和麻省理工学院的研究员Samuel Finlayson也是这篇论文的作者,他告诉《纽约时报》。就像研究人员训练AI系统检测乳腺癌一样,黑客可以操纵代码不标记恶性肿瘤。

研究人员一次又一次地证明,AI可能会带来意想不到的负面后果——例如,无人驾驶汽车将停车标志解读为让行标志,AI驱动的眼镜被欺骗,让它们认为是名人。但在临床上,Finlayson和他的同事说,他们担心强大的医疗利益相关者可以通过数据操纵实现什么。

麻省理工学院的哈佛大学研究人员警告AI的对抗性攻击

Finlayson告诉《纽约时报》:“医疗信息固有的模糊性,加上频繁竞争的财务激励机制,使得高风险决策能够依赖非常微妙的信息。”

他说,由于医疗保健行业的大量货币兑换,保险和计费公司已经改变了其计算机系统中的计费代码和其他数据,以“使系统计费”。随着人工智能在这些环境中变得越来越普遍,利益相关者更有可能操纵扫描以获得更好的支出,或者改变图像以加快监管批准。

麻省理工学院的哈佛大学研究人员警告AI的对抗性攻击

宾夕法尼亚大学助理教授Hamsa Bastani研究了《医疗时报》。他说:“有些行为是无意的,但不是全部。”“总会有意想不到的后果,尤其是在医疗保健领域。”

免责声明:本文由用户上传,如有侵权请联系删除!