当人工智能成为“矛”，矛“盾”在哪里?当人

　　本报记者 张盖伦

　　这是一份AI人对AI人发出的警告。

　　近日，工智OpenAI等14大知名机构联名发布了一份关于恶意使用人工智能的为盾报告。该报告从技术角度出发，矛指出了未来5年内人工智能被滥用的当人风险。

　　危险和骗术正在升级。工智

　　某安全管理系统的为盾管理员在浏览网站，一则模型火车的矛广告吸引了她。她点开还下载了一个小册子。当人此时，工智攻击开始了。为盾小册子一旦被打开，矛黑客就能窥视她的当人电脑，获得安全管理系统的工智用户名和密码。

　　至于管理员看到的广告，则是黑客根据其个人兴趣，结合人工智能精心设计的“陷阱”。

　　虽然这是报告中给出的假设性案例，但这个操作，一点都不令人意外。

　　用人工智能搞破坏真不是科幻

　　报告名为《恶意使用人工智能：预警、防止和缓解》，它由26位作者共同完成，其中不乏人工智能技术研究者。

　　报告将滥用人工智能的威胁分为了物理安全、数字安全和政治安全三类。在物理安全方面，不法分子可以入侵网络系统，将无人机或者其他无人设备变成攻击的武器;在数字安全方面，人工智能可以被用来自动执行网络攻击，它也能合成人类的指纹或声纹骗过识别系统;在政治安全方面，人工智能可以用来进行监视、煽动和欺骗，引发公众恐慌和社会动荡。

　　这些都不是危言耸听，甚至已有实例。

　　2017年，浙江警方破获了一起利用人工智能犯罪、侵犯公民个人信息案。专业黑客用深度学习技术训练机器，让机器能够自主操作，批量识别验证码。“很短时间就能识别上千上万个验证码。”当时的办案民警介绍。

　　北京邮电大学人机交互与认知工程实验室主任刘伟曾见识过一家人工智能公司的“声音合成”技术，A说的话完全可以套上B的声音，“一般人识别不出来”。刘伟说，这些技术一旦被别有用心的人利用，“世界可能就乱套了”。

(责任编辑：热点)