人工智能可6小时识别4万种假想生物武器,科学家发出警告!
理财鱼小提示:人工智能可6小时识别4万种假想生物武器,科学家发出警告!
人工智能的尖端数字计算能力意味着人工智能系统能够在早期发现疾病,管理化学反应,并解释宇宙的一些奥秘。
但是,这种几乎能力无限的人工智能也有一个缺点。
新的研究强调了人工智能模型可以很容易地被训练成善意的,它也能设计成找到假想的生物武器制剂。用现有的人工智能进行试验,研究员在短短6个小时的时间里,识别了40000种假想的生物武器化学品。
换句话说,虽然人工智能可以令人难以置信地强大,当涉及到发现化学组合和药物化合物以改善健康时,同样的力量可以被用来产生出潜在的致命物质。
该团队在一次国际安全会议上进行了试验,让一个名为MegaSyn的人工智能系统检测分子的毒性。在实验中,有毒分子被保留而不是被消除。更重要的是,该模型还被训练成将这些分子组合在一起,在极短的时间内产生假想的4万个生物武器。
结果发现,许多生成的化合物甚至比烈性神经毒剂VX的毒性更强。因此,这项新研究背后的作者对他们研究的一些细节进行了保密,并认真讨论了是否完全不公开这些结果。
在接受The Verge采访时,这篇新论文的主要作者和研究所在的Collaborations Pharmaceuticals公司的高级科学家Fabio Urbina解释说,从“好”的人工智能转变为“坏”的人工智能并不需要太多步骤,该实验是对人工智能带来的危险的警告。
研究人员现在呼吁“重新审视”人工智能系统可能被用于恶意的目的。
该研究论文题为"Dual use of artificial-intelligence-powered drug discovery",已发表在《自然-机器智能》期刊上。
前瞻经济学人APP资讯组
论文原文:https://www.nature.com/articles/s42256-022-00465-9
>相关《 人工智能可6小时识别4万种假想生物武器,科学家发出警告!》内容:
1、 期货18幅经典分时图:商品期货日内短线怎么利用盘口识别方向?
利用盘口识别不出来方向。 未来的走势是不确定的,即使是一个大资金正在建仓,那么它也有可能被更大的资金所击败。因此,盘口不存在什么确定性。 只能说你去进行试错。 交易,需要入场试错,截断亏损让利润奔跑。日内短线也是同样的道理。假如你采用的是盘...【继续阅读】
2、 重磅:《中小学人工智能教师能力标准(试行)》发布
理财鱼小提示:重磅:《中小学人工智能教师能力标准(试行)》发布 3月24日,中国教育科学研究院、华东师范大学、腾讯三方联手,在北京举办了“人工智能教育研讨会暨《人工智能教师能力标准(试行)》、《2022年人工智能教育蓝皮书》成果发布会”。 其中,《人工...【继续阅读】
3、 中国教育科学研究院与腾讯教育联手发布《中小学人工智能教师能力标准(试行)》
理财鱼小提示:中国教育科学研究院与腾讯教育联手发布《中小学人工智能教师能力标准(试行)》 蓝鲸教育3月24日讯,今日,中国教育科学研究院、华东师范大学、腾讯三方联手,在京举办了“人工智能教育研讨会暨《人工智能教师能力标准(试行)》、《2022年人工智...【继续阅读】