护航人工智能与人类社会共生
上海 治理协同行动 条发布
■本报见习记者 侍佳妮如果我们问人工智能系统要如何消灭新冠病毒，而系统给出的答案是“杀死所有人类”；如果有一天， 人工智能自我学习能力增强，创造出自己的语言，人类都不知道它们在想什么……我们该怎么办？
为之于未有 治之于未乱发展负责任的人工智能，这是
“， ”，世界人工智能大会治理论坛给出
2020的方案。7 月 日下午，2020 世界人工智能大会治理论坛在线上举
10行，数十位国内外专家围绕人工智能发展中出现的问题及如何解决难题，发表了精彩观点。
中国科学院院士何积丰介绍，人类社会和人工智能技术目前的关系可以被概括为四类 辅助关系、人机合作、互动关系和竞争关
：
系，其中暗藏人工智能给人类社会带来的风险。 例如在人机合作中，主刀医生在计算机上看到达芬奇机器人视觉系统反映的情况，但有时机器人视觉系统受到污染，就可能出事故。
图灵奖获得者约翰·霍普克罗夫特（John Hopcroft）举例解释了人工智能“不近人情”的一面。如果我们问人工智能系统要如何消灭新冠病毒疫情，系统可能给出的答案是 “杀死所有人类”。“这显然不是我们想要的解决方案”。
人工智能看似独立公正，事实上却隐含着各种歧视，这是众多与会专家关注的焦点。 约翰·霍普克罗夫特表示，当前大多高层职位都由男性担任，人工智能程序在执行高层职位人员选聘流程时往往会选择男性。清华大学苏世民书院院长薛澜提及“算法黑箱”，也就是俗称的“大数据杀熟”，这使得企业对用户歧视可以采取更加高明的手段，损害很多用户的利益。
此次论坛上，上海国家新一代人工智能创新发展试验区专家咨询委员会，发布了 协同落实人工智能治理原则的行动建议”（上海
“治理协同行动 条），提出了“一平台、四工作、四体系”的行动方案AI 9
建议，落实人工智能治理原则。
一平台 即构建全球合作网络和交流平台，推动全球人工智能
“”治理研究和协作共同体的形成； “四工作” 是推进人工智能治理标准规范的制定 推动建立行业自律、总结推出最佳实践 推动安全
、可信技术研发；“四体系”是致力于
、建立人工智能治理的评估体系、监管体系、 人才体系、 保障体系。据悉，这是国内第一次提出的系统落实国家人工智能治理原则的行动建议方案，将为进一步推进人工智能治理提供参考。
本报讯 （记者业和技术上加快度过“探索期”，逐步进入“成长期”，人工智能与数据安全更加深度交织。数据安全问题，已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈 月 日，世界人工智能大会举办了一场以“在线经
。7 10济，安全赋能”为主题的论坛，各方业界专家和2020行业企业家共话智能时代的机遇与挑战，深入研讨人工智能安全的战略、 技术与产业图景，护航在线新经济健康发展。
原国家信息化专家咨询委员会常务副主任周宏仁判断， 当前信息技术的创新性发展，正在形成全球信息化发展的第二个拐点，即信息化转向以智能化为中心，构造一个人工智能驱动的世界。他提醒说，在这一关键拐点应避免人工智能发展的片面性，重视安全研究的科学性，处理好安全与发展的关系。
疫情期间，在以人工智能技术为代表的新
型科技在医疗物资运输、居民生活保障、疫情联防联控、安全复工复产等方面都发挥了不可替代的作用。但机遇和风险总是并存的。中国互联网发展基金会理事长马利表示，既要集中力量挖掘人工智能的潜力， 也不忽视放任人工智能的隐患。“当前，人工智能由弱到强逐步转变，做好安全风险的前瞻预判和战略部署尤为重要。”
只有安全的人工智能才能为数字经济注入持续动能。论坛上，中国科学院院士何积丰阐述了人工智能与人类社会的共生关系。他通过对人工智能带来的数据安全、算法安全等安全风险的全面评估，提出算法可解释性、隐私保护、公平建模、可信验证、主动防御、伦理法律、系统伦理等七条人工智能安全对策。
观安信息首席技术官胡绍勇认为，随着人工智能发展与数据安全更加深度地交织融合，数据安全问题已然成为人工智能突破关键转轨期必须解决的重要制约瓶颈。网络安全能力建设应该从策略、模型到能力中台的方向进化，能力中台是业务前台与数据后端的枢纽，健全的安全能力中台包括识别、防御、检测和响应等四体系。
论坛上，赛博研究院和上海观安信息共同发布《人工智能数据安全治理报告》。报告分析了数据采集、数据处理、数据流动和数据使用阶段突出的数据安全问题，结合当前全球人工智能数据安全治理现状和动态，构建了综合性的人工智能数据安全治理框架。
本次论坛还启动了“人工智能数据安全风险评估平台”。平台包括风险评估、数据集管理、知识库管理、威胁情报等功能，用于对特定人工智能应用场景中的数据安全风险进行总体评估和评级，以及数据集管理和知识库建设。同时，该平台设定了安全基线， 开发用于敏感数据探测、数据质量检测、数据差异检测、漏洞检测以及脆弱性检测的工具。这一平台，为当前上海火热的人工智能发展插上安全的翅膀。