360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
全国网信系统2022年累计依法约谈网站平台8608家******
中新网1月19日电 据“网信中国”微信公众号19日消息,2022年,全国网信系统持续加大网络执法力度、规范网络执法行为,坚决依法查处各类违法违规案件,坚持处罚和教育相结合的原则,努力做到宽严相济、法理相融,让执法既有力度又有温度。据统计,全国网信系统全年累计依法约谈网站平台8608家,警告6767家,罚款处罚512家,暂停功能或更新621家,下架移动应用程序420款,会同电信主管部门取消违法网站许可或备案、关闭违法网站25233家,移送相关案件线索11229件。
依法严厉打击网上各类违法违规行为
各级网信部门结合网络生态综合治理及“清朗”系列专项行动,集中打击网络谣言、整治MCN机构信息内容乱象、整治网络直播和短视频领域乱象、整治未成年人网络环境、治理算法滥用、整治应用程序信息服务乱象、规范传播秩序,及时查处一批传播各类违法违规有害信息、存在违法违规行为、社会影响恶劣的平台和账号。
针对淘宝直播间及店铺存在法律、法规禁止发布或者传输信息的问题,国家网信办指导浙江省网信办依法约谈淘宝网及相关直播间、店铺运营主体主要负责人,责令其限期整改,暂停相关功能,从严处理责任人,并对淘宝网实施罚款的行政处罚。
针对新浪微博、腾讯微信多次出现法律、法规禁止发布或者传输信息的问题,国家网信办指导北京市、广东省网信办依法约谈新浪微博总编辑、腾讯微信负责人,责令其限期整改,严肃处理责任人,并对新浪微博、腾讯微信依法予以罚款的行政处罚。
依法查处“罗戈网”“中华日历APP”“小舞视界”“沙盘上的战争”等违规从事互联网新闻信息服务的网站和账号,下架“功德人生”等74款违法违规开展互联网宗教信息服务活动的移动应用程序。依法查处“全媒头条中文网”“天津补贴”“驻希腊使馆办公室”等一批假冒和侵权网站、平台和账号。针对存在算法推荐问题的“爱奇艺”等多款移动应用程序,对其依法采取约谈、责令整改和处理责任人等处置措施。
针对网站平台存在色情引流、诱导打赏、暴力谩骂、低俗庸俗等信息,存在涉网络占卜迷信等信息,存在用户账号发布炫富拜金等信息,存在涉流量造假、网络水军,存在侵害未成年人合法权益等违法违规问题,依法对腾讯、新浪、抖音、百度、网易、花椒、斗鱼、虎牙等多家网站平台予以约谈相关负责人、责令限期整改、从严处理相关责任人,并对网站平台依法实施罚款的行政处罚。
坚决打击遏制网络安全、数据安全和个人信息保护等领域违法违规行为
国家网信办不断加大网络安全、数据安全、个人信息保护等领域执法力度,严厉打击重大违法违规行为。根据网络安全审查结论及发现的问题和线索,依据《网络安全法》《数据安全法》《个人信息保护法》,对滴滴公司作出网络安全审查相关行政处罚。
同时,国家网信办加强对地方网信部门工作指导,持续加大网络安全、数据安全和个人信息保护等领域的网络执法力度,上下联动,形成工作合力。针对个别互联网企业怠于履行网络安全和数据安全保护义务,依法对其采取罚款、整改、警告、处理责任人等措施。依法查处人民群众反映强烈的、存在以强制、诱导、欺诈等恶意方式违法违规处理个人信息行为的“超凡清理管家”等294款APP。针对具有舆论属性或社会动员能力的“空空语音”等44款APP存在未按要求开展安全评估等违法违规行为,依法对其予以下架处置。
大力推进网络执法监督检查工作
2022年,国家网信办进一步加大网络执法监督检查工作力度,不断完善网络执法监督检查工作体系,强化网络执法日常监督检查。各级网信部门严格落实法律法规规章和相关规定,不断规范网络执法行为、提升案件办理质量,确保案件事实认定清楚、证据确凿充分、适用法律准确、程序规范合法、处罚精准适当,做到严格规范公正文明执法。落实行政执法责任制和责任追究制度,加大整改通报、问责激励力度,防止和克服地方和部门保护主义,防止和克服执法工作中的利益驱动,坚决做到有法必依、执法必严、违法必究,有力维护法律权威。
(文图:赵筱尘 巫邓炎)