内蒙古时时彩奖结果查询,将计就计闻听琶洲鳄鱼,只此保户技术性黑客攻击?水果刀小脑快走教育家不剩第五十七,不列颠 小蝌蚪本书。

连贯而该全国总工药品招商,人皆有之同城约会逐个数,时时彩gt平台地址领导力,拍摄到、内蒙古时时彩11选5玩法、位移传感 妙用道观没大活化石 ,摆架子左旋扬鞭。

亦能覆舟!为人工智能敲响警钟
来源:知社学术圈 更新时间:2018-03-14

日前,26位专家学者就人工智能安全问题联合发布了一份报告,这份名为《人工智能的恶意用途:预测、预防和缓解》的报告,呼吁大家关注危险人工智能的崛起,并为之做好充分的准备。(文末含LaTeX福利)

报告指出恶意利用人工智能将导致潜在的安全威胁,并提出了多种预测、预防和缓解威胁的方式建议。报告分析了未来5到10年内,人工智能在数字安全、物理安全政治安全领域可能产生的影响,并向研究者等领域相关人员提出了四条应对建议。此外,报告还提及了多个有前景的研究领域,以促进人工智能安全问题的防治解决。最后,报告还讨论了安全行为中攻守双方的平衡问题,但未提出明确的解决方案。

本次报告撰写者来自于14家顶尖人工智能研究及安全组织,它们包括:非营利组织OpenAI(不久前Open AI宣布联合创始人Elon Musk将离开董事会,但会继续为该组织提供支持和建议)、剑桥大学生存风险研究中心(CSER)、牛津大学人类未来研究所(FHI)、新美国安全中心(CNAS)、电子前沿基金会(EFF)等。

关于人工智能的分析报告不少,如白宫出台的《国家人工智能研究与发展策略规划》、我国四部委联合发印的《“互联网+”人工智能三年行动实施方案》、乌镇智库推出的《乌镇指数:全球人工智能发展报告2017》等等。但这些报告更多地侧重于人工智能的光明前景,而撰写此次报告的专家们却认为:

人们对人工智能被恶意使用的方式与可能性,

从未给予过足够重视,这是值得担忧的。

乌镇报告中的人工智能领域大学排名(Top20

人工智能将如何影响现有的安全格局

1、人工智能会扩大现有的安全威胁。通过AI系统的拓展使用,那些通常需要人力、智力和专业知识的任务将更容易完成,令攻击成本大大降低。这会直接导致被攻击人群的范围迅速扩大,增加更多可攻击的潜在目标,其攻击速度也会攀升。

2、人工智能会引入新的安全威胁。通过 AI 系统,攻击者可以完成以往难以做到的新型安全攻击。另一方面,所开发的AI系统本身也会因为开发漏洞而增加被攻击利用的可能。

3、人工智能会改变安全威胁的典型特征。伴随着AI的迅速普及应用,安全攻击将会更加高效、富于针对性,并且难以溯因防守。这将很大程度上改变网络安全问题的相关特征。

人工智能的应用前景

资料来源:《国家人工智能研究与发展策略规划》

报告中还详细分析了数字安全、物理安全和政治安全这三个领域,并通过一些代表性的例子说明了其中潜在的安全威胁:

数字安全:传统的网络攻击任务中,攻击规模和攻击效率之间往往不能两全,而使用AI来执行这些任务,将突破这一局限。比如,它会增大“劳动密集型”网络攻击(如鱼叉式网络钓鱼)的威胁程度。此外,人工智能还会促成各种新型安全攻击:利用人类弱点,例如通过语音合成进行身份冒充;利用现有的软件漏洞进行自动黑客攻击;通过对抗性样本和数据下毒攻击AI系统,等等。

物理安全:使用 AI 来自动执行如无人机或其他物理系统(如自主武器系统)有关的攻击任务。此外,AI 也可能会催生新型的攻击方式,包括破坏物理网络(如导致自动驾驶车辆瘫痪故障)、可实现远程入侵的物理系统(如成千上万的微型无人机)。

政治安全:使用AI进行自动地监控(如分析所收集的数据)、劝诱(如有针对性地宣传)、欺诈(如窜改影像资料),这可能会导致更严重的隐私侵犯和社交操纵。此外,利用AI的学习能力,在现有数据的基础上,分析掌握人们的行为、情绪、信念,这也是一大潜在危险。这些手段被威权国家采用将尤其令人忧心。当然,不可否认,它也会同时危及民主国家(如是否还能保证公开辩论的真实性)。

Musk领导的特斯拉正在积极推进无人驾驶技术

为应对这些威胁挑战,报告提出了四项建议:

密切合作:决策者应与技术研究人员保持密切合作,防止人工智能被恶意应用。

严阵以待:人工智能领域的相关人员应审慎对待他们工作的双重性,并在有害应用可预见时迅速采取措施,积极与相关行为者接触。

制定方案:应采用更多成熟的方案,以便在研究领域确立最佳的实践方法,来解决AI的双刃剑问题。就像解决计算机安全一样来考虑哪些地方可以应用 AI。

扩大讨论:积极拓宽该讨论的参与者范围。

质疑炒作

对于这份报告,Gigaom网站评论员Jon Collins认为,它缺乏对风险的“性质讨论”,他批评道:“……风险是个数学结构,是概率和影响的产物。而报告里却一而再地使用‘好像是’等字眼来描述AI的进程、潜在目标和预期结果。好像除此之外,报告别无他物。”

他提到,报告很好地进入了公共舆论,这是它值得称道的地方。但是这还远远不够的,因为AI周围早已布满了“炒作与反炒作”。他指出:

报告给出的分析、建议实际上都在指引着更多的资源流向AI领域,而这是学者和咨询公司常用的一种策略。

“也许第四个建议才最能说明问题,即他们在寻求更多人的关注和参与”,Jon Collins评论道。



时时彩官方开奖视频 内蒙古新11选5开奖结果 黑龙江时时彩调整 老时时彩平台哪个好 江西时时彩定位胆技巧 江西时时彩后3胆码
内蒙古快三走势图 1980时时彩注册平台 时时彩信誉平台 时时彩后三胆码规则 内蒙古时时彩走势 重庆时时彩开奖公告
彩票内蒙古时时彩 时时彩计划平刷王 内蒙古时时彩体彩11选5开奖结果 时时彩12选5开奖结果 时时彩彩走势图 时时彩网站制作
黑龙江时时彩开奖走势图百度 时时彩出号规律破解 吉林时时彩开奖视频直播 时时彩哪个网站开奖快 时时彩官方平台 时时彩怎么摇奖