• 首  页
  • 视  频
  • 图  片
  • 上海科技报
  • 上海市科技传播学会
2019年07月10日
切莫忽视人工智能隐患

提到AI, 很多人第一时间都会想到它的益处,但我们也必须了解人工智能带来诸多的隐患。AI对人类社会的冲击很可能是史无前例的巨大,甚至超过自计算机问世以来的任何事物,因为它既强大又便宜,传播速度将超过计算机,并触及每个行业。因而——

未找到图片
人工智能治理的未来规划
  人工智能的影响遍及全球,然而目前还没有任何实质的政策或措施去促进人工智能的潜力最大化并能管理其风险的治理机制。这并不是因为政府认为人工智能的治理不重要,而是因为这需要政策制定者、企业和用户等所有利益相关者一起去打开“潘多拉”魔盒,去讨论所有可能涉及到的问题。  人工智能的基石是数据,政府和企业在实际应用中所收集的数据如若被不当地处理或操纵,则会引发比以往数据隐私丑闻更大的危险,以及政府和企业尚未内化的声誉风险。因此,要防止大数据和人工智能的滥用和失控,应该从意识形态开始建立科学的数据价值观体系。  除了从技术安全角度研究确保AI安全的可行技术方法和手段外,还需要从伦理层面为AI安全提供引导和约束,以确保“AI向善”。伦理规范需要在公司、行业、国家层面就人工智能伦理原则和框架达成共识并落实到人工智能研发应用中,因为在技术加速、法律滞后的趋势下,需要更多依靠伦理规则来发挥事前的引导和规范作用,确保AI向善。  同时,社会也亟待法律规范的制定,从具体的行业出发对自动驾驶、无人机、医疗诊断、机器人等具体的人工智能应用进行监管,以实现鼓励创新与保障安全的平衡。国际标准、规则的制定可以确保人工智能的研发应用符合伦理、国际法等共同性要求。... 【详情】
未找到图片
要对潜在风险与隐患负责
  5月25日,北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所等,共同发布《人工智能北京共识》(以下简称《共识》)。  《共识》针对人工智能的研发、使用、治理三方面,提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。  其中,研发方面,提倡要有益于增进社会与生态的福祉,服从人类的整体利益。设计上要合乎伦理,体现出多样性与包容性,尽可能地惠及更多人。要对潜在伦理风险与隐患负责,提升技术水平控制各种风险,并最大范围共享人工智能发展成果。  在使用方面,提倡善用和慎用,避免误用和滥用,以最大化人工智能技术带来的益处、最小化其风险,应确保利益相关者对其权益所受影响有充分的知情与同意,并能够通过教育与培训适应人工智能发展带来的影响。  在治理方面,对人工智能部分替代人类工作保持包容和谨慎态度,鼓励探索更能发挥人类优势和特点的新工作,广泛开展国际合作,共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度,并开展长远战略设计,以确保未来人工智能始终对社会有益。... 【详情】
未找到图片
利弊共存 是把双刃剑
  近年来,随着通信网络、存储能力及云计算等技术的高速发展,人工智能技术出现了“井喷式”的发展,虽然目前AI还处于发展的初级阶段,但当家电、移动设备、社会管理等软硬件都融入了人工智能的技术时,我们可曾想过,它是否会给人类带来灾害?又将是怎样的灾害?人工智能将带来失业潮  早在18世纪60年代,英国开始工业革命之初,大部分手工工作被机器替代,底层人民都在忧虑自己是否会被机器代替,而如今这一问题再被提起。人工智能技术正突飞猛进,通过AI控制的设备开始逐渐代替曾经只有人类才能胜任的各种工作,而此前,我们认为不可能被取代的教师、律师等特殊职业,也面临着威胁。就目前而言,机械化、程式化的工种一定会被人工智能取代,这类人群面临更加严峻的就业趋势。据美国美林银行预测,2025年以前,人工智能带来的“每年创造性破坏的影响”可能会达到14万亿到33万亿美元。人工智能将威胁日常生活  据相关信息显示,目前大部分AI应用系统都是基于已有的AI框架,而这些系统、软件实质上都存在安全漏洞,用户个人数据被全部存储在相应的云端。当黑客侵入其中并获取控制权时,用户的安全和财产是否还能得到保障?不仅个人用户的安全我们需要防护,技术层面的安全也应当注意,正如北京大学教授郭耀所说,市场上的很多智能硬件是国内制造,但是像安卓、RAM、小米品牌的内核,以及Linux开源都不是... 【详情】
未找到图片
莫忽视AI带来的隐患
  人工智能是当下一大热词。据光明网数据新闻工作室统计,近1个月来,有关人工智能的网络讨论量达到2083万条。网友肯定了人工智能可以提高服务水平和效率,但同时也担忧人工智能会冲击就业,以及导致个人隐私泄露等问题。  多数网友认为,人工智能满足个性化需求,能提高大众生活水平。网友“吴其伦”称:“未来,人工智能将会被广泛运用到老百姓生活的各个方面,从日常休闲娱乐到关乎生命的医疗器械,比如看羽毛球机器人‘吊打’真人,外骨骼机器人让瘫痪患者变身‘钢铁侠’直立行走。”  有网友提出,人工智能提供了高效便捷的社会服务,有助于提高政府治理水平。网友“古天乐”称:“人工智能运用于捉拿罪犯,确实更有效更安全,特别是在人类较难搜集到证据的情况下,人工智能可以发挥独特作用,帮助人类。”网友“郝吉林”称:“警方用AI找回被拐10年的儿童,效率倍增,衷心点赞!”  同时,有网友担忧一些就业岗位未来将被人工智能取代。网友“皮海洲”称:“人工智能是‘码农’未来最大的竞争对手。”网友“余丰慧”称:“如何应对人工智能对就... 【详情】