<p class="ql-block">李正风清华大学社会科学学院</p><p class="ql-block">—1963年12月生，中国发展战略研究会常务理事，科技发展战略专业委员会副主任；著有实践建构论：《对一种科学观的初步探讨》等。</p> <p class="ql-block">科技是发展的利器，也可能成为风险的源头</p><p class="ql-block">—科学技术的每一次重大突破都不同程度伴随着伦理挑战。</p><p class="ql-block">—当代科技革命在深度塑造社会生产与生活的同时，带来更深刻、更多样、更复杂</p><p class="ql-block">的社会伦理问题。</p><p class="ql-block">—当代科技伦理问题受到学术界、产业界、政府和社会公众的高度关注，如何妥善处理科技伦理挑战愈发成为全球各国共同面对并亟待解决的重大问题。</p> <p class="ql-block" style="text-align:center;">科技"反噬"人类的忧思</p> <p class="ql-block">如何理解"反噬"人类？</p><p class="ql-block">—反噬：所谓"反噬"是一种较形象的说法，是指人的某种行为或创造物反过来伤害到人自身。</p><p class="ql-block">—"反噬"也有程度的差异，近代科技革命以来，人们以不同的方式防范科技成果的不良影响。</p><p class="ql-block">—当科技力量不断增强，这种不良影响可能超出人类整体可控范围，或形成根本性、全局性的影响，"反噬"话题随之为全球共同关注。</p> <p class="ql-block">发展科学和技术的理由和理想</p><p class="ql-block">—培根：科学的真正合法目标，就只是给人类生活提供新的发现和力量。</p><p class="ql-block">—关键词："功用""进步"</p> <p class="ql-block">英国皇家学会章程</p><p class="ql-block">……我们明白，再没有什么比提倡有用的技术和科学更能促进这样圆满的政治的实现了。通过周密的考察，我们发现有用的技术和科学是文明社会和自由政体的基础。它们通过奥菲士（希腊神话中的歌手，善弹竖琴，歌声富有魔力，可感动鸟兽草木。）的魔力把众人组织成城市，结合为行会。这样，通过把好几种技术和工业生产方法汇集起来，就可以用互相交流的办法使全体都学会每个人的特殊才能；……我们只有增加可以促进我国臣民的舒适、利润和健康的有用发明，才能有效地发展自然实验哲学，特别是其中同增进贸易有关的部分；这项工作最好由有资格研究此种学问的有发明天才和有学问的人组成的一个团体来进行。他们将以此事件作为自己的主要工作和研究内容，并组成为拥有一切正当特权和豁免权的正式学会。</p> <p class="ql-block">科学技术是否一定"向善"?</p><p class="ql-block">—曼哈顿工程与原子弹研制</p><p class="ql-block">—爱因斯坦与奥本海默</p><p class="ql-block">—罗素﹣爱因斯坦宣言</p><p class="ql-block">"参加过研制这种历史上最可怕、最危险的武器的物理学家，不说是犯罪，也是被同样的责任感所烦恼。而且我们不能不一再地发出警告，我们不能也不应当放松我们的努力，来唤醒世界各国人民，尤其是他们的政府，使他们明白，他们肯定会惹起不可言喻的灾难。"-﹣爱因斯坦：《战争是赢得了，但和平却还没有》</p> <p class="ql-block">在原子弹投放成功的多年之后，奥本海默回忆表示：</p><p class="ql-block">"现在我变成了死神"</p><p class="ql-block">我现在成了死神，世界的毁灭者。他游说国际对军备进行管制，并运用影响力宣扬控制核武器和核不扩散运动，并强烈反对发展氢弹。</p> <p class="ql-block">DDT 与《寂静的春天》</p><p class="ql-block">—DDT 由保罗．穆勒在1939年发现，被广泛用于第二次世界大战中防治疾病和二战之后的农业生产，而且带来了农作物的大幅度增产。</p><p class="ql-block">—然而，随着时间的推移，研究揭示了 DDT 对生态系统的广泛和长期危害，包括生物累积和食物链中的放大效应，导致鱼类</p><p class="ql-block">和鸟类死亡，以及对人类健康的潜在风险。</p><p class="ql-block">—《寂静的春天》是蕾切尔·卡逊在1962年发布的一部具有里程碑意义的作品，通过四年的调研揭示了 DDT 等化学农药对环境和生物，包括人类的危害。引起了公众对环境问题的关注，促进了环境保护运动的发展。</p> <p class="ql-block">DDT在水生生物及鸟类形成的食物链中被不断富集，经过几级放大，生物体内浓度甚至可达水体中的1000万倍。</p> <p class="ql-block">2、当代科技伦理问题更广泛、更紧迫</p><p class="ql-block">—人类走向"知识社会"和"科技时代"</p> <p class="ql-block">科技"加速"发展：能力越来越强</p><p class="ql-block">—"科技"成为重要资源和创新要素</p><p class="ql-block">—科技发展"指数增长"的加速效应</p><p class="ql-block">—创新驱动"加速"发展的竞争机制</p><p class="ql-block">—走向以科技为基础的"科技时代"</p> <p class="ql-block">科学技术能力快速提升</p><p class="ql-block">人类探索的范围不断扩展。科技的飞速发展使得人类探索的范围延伸至深空、深海中的未知领域，不断深化到生命和认知现象的内在结构。</p> <p class="ql-block">科学技术越来越与人本身直接相关</p><p class="ql-block">生物技术的发展使得科学家有能力干预人的本质﹣﹣基因，人类基因组计划破译了人类的遗传密码，基因编辑工具的发明使得人类基因可以被个性化地修饰、设计和改造。生物技术有能力改变人的自然状态，改造人类，引发了人们对人性的疑虑。</p> <p class="ql-block">科学技术越来越与人本身直接相关</p><p class="ql-block">人工智能：在沟通、计算、创作、竞赛、决策等方面展现出的智能挑战了人类对创意活动的垄断，从而挑战了人的主体性和道德地位。人工智能正日益成为人们社会交往的一部分。影响人的认知和行为方式，替代人类劳动。工智能：可以通过学习现有的数据并生成新的数据，从而实现类似人类创造力的功能。</p> <p class="ql-block">科学技术形成"整体性"力量</p><p class="ql-block">科学与技术之间的关系更加密切。基础科学与应用研究之间的连接更加紧密，科学发现与技术产品之间的转化和循环更加迅速。在生物技术、纳米技术等领域，基础科学的新发现往往能够直接引发新的技术应用。技术工具的发明常常作为基础科学研究的副产品出现，并反过来促进基础科学的发展。</p> <p class="ql-block">科学与技术形成"整体性"力量</p><p class="ql-block">科学进步越来越受到技术进步的驱动，技术发展越来越依赖科学突破。在当今时期，前沿的科学研究离不开各种先进的技术手段的支持，基础研究实验的运行需要高精尖的技术设备，技术手段的进步能够极大的促进科学研究的发展，反过来技术的发展越来越依赖突破，突破"卡脖子"技术难度越来越大。</p> <p class="ql-block">科学与技术形成"整体性"力量</p><p class="ql-block">科学与技术之间的结合更加频繁。尤其是在尖端研究领域，科学研究和技术研究往往同时参与其中，很难界定一项工作是科学的还是技术的。在人工智能、材料科学、生命科学等一些重要跨学科领域中，基础研究专家和技术专家协同工作，共同促进科学和技术的发展。</p> <p class="ql-block">地质年代进入"人类世"</p><p class="ql-block">—密西根大学的生态学家尤金·斯托默（ Eugene Stoermer )1980' s 最早提出；</p><p class="ql-block">—地球科学家、气象学家保罗·克鲁岑（ Paul Crutzen )2000年使之成为热议的概念和议题。</p><p class="ql-block">—克鲁岑：对于我们来讲，在当前的地质时期，使用"人类世"这个术语恰如其分，因为它强调了人类在地质活动和生态环境中的核心角色。</p> <p class="ql-block">"人类世"本质上是"科技时代"</p><p class="ql-block">—克鲁岑（2002)：人类世可以说是从18世纪后半期开始的，当时对极地冰层中的空气分析表明，全球二氧化碳和甲烷的浓度开始增加。这个日期也恰好与1784年詹姆斯·瓦特设计蒸汽机的时间相吻合。</p><p class="ql-block">—撇开争议，有两点可以形成共识：</p><p class="ql-block">·1、人类活动成为影响地球系统和自然世界的重要（乃至核心）力量。</p><p class="ql-block">·2、这种力量源自科学、技术与创新。</p><p class="ql-block">—2009年，国际地层委员会的第四纪地层分委会成立了"人类世工作小组"( Anthropocene Working Group , AWG )，包括克鲁岑在内的30余位跨学科的科学家共同工作，汇集相关研究，力图推动"人类世"获得学界认可。2016年，国际地质大会( IGC ）在南非开普敦召开， AWG 正式建议地质学接纳"人类世"的概念。2019年5月21日， AWG 内部举行投票，33位参加投票的委员以29:4的比例通过了两项决议，一是认可了"人类世"的存在，二是确定其开始的时间为20世纪中期。</p> <p class="ql-block">当代新科技革命进一步加速</p><p class="ql-block">数字化</p><p class="ql-block">智能化</p><p class="ql-block">绿色化</p><p class="ql-block">超人类</p> <p class="ql-block">新科技革命的颠覆性影响（1)</p><p class="ql-block">—对自然对象的控制和改造从人类外部转移到人类自身</p><p class="ql-block">—基因编辑技术、合成生物学等对作为生命体的人类的"技术性"改造，脑机接口、人机接口技术等，带来超人类革命，打破人类的"类同一性"。</p><p class="ql-block">—挑战"人类"共有共享的良知和"人性"。福山："后人类的世界也许更为等级森严，比现在的世界更富有竞争性，结果社会矛盾丛生。它也许是一个任何'共享的人性'已经消失的世界，因为我们将人类基因与如此之多其他的物种相结合，以至于我们已经不再清楚什么是人类。".赫拉利：富人和穷人之间有可能产生生物学意义上的鸿沟</p> <p class="ql-block">新科技革命的颠覆性影响（2)</p><p class="ql-block">—对人类行为的技术性替代从肢体上升到头部</p><p class="ql-block">—数字技术、人工智能颠覆了传统社会的学习﹣认知﹣控制体系，冲击了人与技术的主从关系，挑战了人类因认知力、决策力而拥有的独特地位。</p><p class="ql-block">—生成式人工智能成为又一个"新型造物主"。重大挑战就是 AI 系统的价值观能否与人类保持一致。如果 AI 系统的目标与人类存在偏差，它们很可能作出与人类价值观相违背的决策，产生不可控的后果。</p><p class="ql-block">—价值对齐与"超级对齐":确保 AI 系统的目标和行为方式与人类的价值观和伦理标准保持一致。人类社会和环境的复杂性难以用固定的价值观模型加以描述。超级对齐需要 AI 自主推理人类的终极价值目标，在不同情形下做出判断，而不是单纯依靠设计者提供的价值观模型。</p> <p class="ql-block">新科技革命的颠覆性影响（3)</p><p class="ql-block">—人类社会运行的底层构架被深度"数字化"和"智能化"</p><p class="ql-block">—数字化转型重新构造人类社会的底层构架：新基建，数字社会</p><p class="ql-block">—数字化转型不仅带来新形态的加速发展，而且为人工智能技术的广泛应用提供了可能.人工智能，尤其是生成式人工智能将嵌入到所有可以对认知、决策进行技术性替代的场景和社会过程之中</p> <p class="ql-block">新兴科技伦理问题的新特点</p><p class="ql-block">特点一：问题发生前移</p><p class="ql-block">特点二：分布广泛渗透</p><p class="ql-block"><span style="font-size:18px;">特点三：影响深层颠覆</span></p><p class="ql-block">特点四：不确定性增强</p><p class="ql-block">特点五：专业性提级</p><p class="ql-block">特点六：场景化凸显</p> <p class="ql-block">科技伦理问题的复杂化、多样化</p><p class="ql-block">—按照科技活动的</p><p class="ql-block"> .科研活动中的伦理问题</p><p class="ql-block">．技术开发中的伦理问题</p><p class="ql-block"> ·科技应用中的伦理问题</p><p class="ql-block">—按照科技活动的领</p><p class="ql-block">．数据伦理与人工智能伦理问题</p><p class="ql-block">·生命伦理与医学伦理问题</p><p class="ql-block">·工程伦理与环境伦理问题</p><p class="ql-block">—按照科技的影响层面</p><p class="ql-block">．个人层面</p><p class="ql-block">．组织层面</p><p class="ql-block">．社会层面</p><p class="ql-block">．人类层面</p> <p class="ql-block">—数据伦理</p><p class="ql-block">—算法伦理</p><p class="ql-block">—人机关系</p><p class="ql-block">—人类安全</p> <p class="ql-block">—个人层面：隐私权、知情同意、生命与财产安全、公平公正使用数据产品的权力等</p><p class="ql-block">—公司层面：数据正当采集和使用；避免算法歧视、算法垄断、算法滥用等；</p><p class="ql-block">—社会层面：算法问责、智能机器人的道德主体地位等</p><p class="ql-block">—人类层面：防止智能机器人反噬人类，智能技术整体失控等</p> <p class="ql-block">具有争议性的多用技术﹣﹣人脸识别技术</p> <p class="ql-block">具有争议性的多用技术﹣﹣人脸识别技术</p><p class="ql-block">人脸识别监控预警发现全国在逃人员，他们迅速抓获！</p> <p class="ql-block">—仅凭一张童年照片，找回走失15年的孩子！ AI 跨年龄识别人脸，就是这么神奇！</p><p class="ql-block">—丢失孩子是任何一个家庭都无法承受之痛，茫茫人海，如何寻找？最新的人脸识别技术能够让人工智能深度学习五官的成长规律，凭借一张孩子儿时的照片，就能实现跨年龄识别人脸。目前，中国人已经处在这项技术的世界第一梯队，这项技术的应用，已经协助警方成功找回了被拐十几年的孩子。</p> <p class="ql-block">具有争议性的多用技术﹣- ChatGPT</p> <p class="ql-block">马斯克等千人联名叫停强 AI 研发</p><p class="ql-block">如今的 AI 系统，逐渐变得能在一般任务中与人类媲美，我们必须要问自己：应该让机器拿宣传内容和谎言充斥我们的信息渠道吗？应该把所有的工作（包括那些让人有成就感的工作）都自动化吗？应该去开发那些终有一天会在数量和智慧上超越我们并取代我们的非人类大脑吗？应该赌上人类对文明失去控制的命运吗？这样的决定不能交给科技领袖来做。只有当我们确信强大的 AI 系统带来的影响会是正面的，而风险会是可控的，才能去开发这样的系统。衡量可靠性必须有充分的理由，并且随着系统潜在的影响增大，可靠性也必须增大。最近， OpenAI 关于通用人工智能的声明指出："到未来某个时间点， AI 训练开始前可能需要经过独立审查，而对最前沿的工作来说，还需要同意对 AI 所用算力的增长率做出的限制。"我们同意这个观点，现在就是那个时间点了。所以，我们呼吁所有 AI 实验室，立即停止训练比 GPT -4更强大的 AI 系统，为期6个月。这次暂停应该是公开的、可验证的，并且包含所有关键的参与者。如果无法迅速实施这次暂停，政府就应该介入并制定暂停令。</p> <p class="ql-block">案例："贺建奎事件"的影响</p><p class="ql-block">—2018年11月26日，贺建奎宣布一对名为露露和娜娜的基因编辑婴儿于11月在中国健康诞生，由于这对双胞胎的一个基因(CCR5）经过修改，她们出生后即能天然抵抗艾滋病病毒 HIV 。这一消息迅速激起轩然大波，震动了世界。</p><p class="ql-block">—国内有媒体认为：这是世界首例免疫艾滋病的基因编辑婴儿，也意味着中国在基因编辑技术用于疾病预防领域实现历史性突破。</p> <p class="ql-block">贺建奎如何为自己辩护？</p><p class="ql-block">—贺建奎："我们坚信历史（伦理）终将站在我们这边，一如七十年代的露易丝·布朗（首例试管婴儿），同样的恐惧和指责将再次出现。既然，现已公认辅助生殖技术对家庭有益，那么基因手术在未来二三十年后也将会是合情合理的。-----﹣请您在听到指责声音的时候不要忘记，还有许多沉默的家庭，他们眼睁睁地看着孩子饱受遗传疾病的痛苦。没理由让他们继续承受苦难。</p><p class="ql-block">—学术共同体的态度：《科学》杂志评选出的2018年三大"科学崩坏"事件中，贺建奎所主导的基因编辑婴儿事件位列之一。在《自然》杂志公布的2018年十大科学人物中，贺建奎被称为"基因编辑流氓"( CRISPR rogue )</p> <p class="ql-block">—《科学》杂志评选出的2018年三大"科学崩坏"事件中，贺建奎所主导的基因编辑婴儿事件位列之一。</p><p class="ql-block">—在《自然》杂志公布的2018年十大科学人物中，贺建奎被称为"基因编辑流氓"( CRISPR rogue )</p> <p class="ql-block">—贺建奎2017年2月曾在个人博客上发表题为《人类胚胎基因编辑的安全性尚待解决》的博文，指出"基因编辑"存在五个安全性问题。结论处写道：不论是从科学还是社会伦理角度，没有解决安全问题之前，任何执行生殖细胞系编辑或制造基因编辑的人类行为是极其不负责任的。</p><p class="ql-block">—然而一个月后的2017年3月贺建奎就开始了基因编辑婴儿的实验。</p> <p class="ql-block">—2019年12月30日，"基因编辑婴儿"案在深圳市南山区人民法院一审公开宣判。贺建奎、张仁礼、覃金洲等3名被告人因共同非法实施以生殖为目的的人类胚胎基因编辑和生殖医疗活动，构成非法行医罪，分别被依法追究刑事责任。</p><p class="ql-block">—在明知违反国家有关规定和医学伦理的情况下，仍以通过编辑人类胚胎CCR5基因可以生育免疫艾滋病的婴儿为名，将安全性、有效性未经严格验证的人类胚胎基因编辑技术用于辅助生殖医疗。</p><p class="ql-block">—法院认为，3名被告人未取得医生执业资格，追名逐利，故意违反国家有关科研和医疗管理规定，逾越科研和医学伦理道德底线，贸然将基因编辑技术应用于人类辅助生殖医疗，扰乱医疗管理秩序，情节严重，其行为已构成非法行医罪。</p> <p class="ql-block">问题的症结是否在"非法行医"?</p><p class="ql-block">是"行医"还是"实验"?</p><p class="ql-block">从科技伦理治理的角度出发，如何有效防止此类事件？</p> <p class="ql-block">3、如何防止科技"反噬"人类？</p><p class="ql-block">—两办印发《关于加强科技伦理治理的意见》(2022年3月20日）</p> <p class="ql-block">"科技伦理"治理的目的</p><p class="ql-block">—科技伦理"治理"；运用伦理规范来引导和规制科技活动的行动过程及相应的机制与体系。</p><p class="ql-block">—科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障。</p> <p class="ql-block">道德、伦理与法律：多维并举</p><p class="ql-block">—从不同层面回答行为的"正当性"问题；—从不同角度防止科技"反噬"人类；</p><p class="ql-block">—道德、伦理："即使在一个摆脱了剥削和压迫的社会中，私人自主与公共自主都是缺一不可、互为前提的。"-﹣哈贝马斯(2019)</p> <p class="ql-block">道德与伦理</p><p class="ql-block">—共性：道德、伦理都包含传统风俗、行为习惯之义，强调值得倡导和遵循的行为方式，都以善为追求的目标。从不同层面定义了什么是"好的"、"善的"和"正当的"行为。</p><p class="ql-block">—差异：道德是个体性的、强调个体的认知和选择，道德水准是差异化的。伦理是社会性的，强调集体的共识与规则，伦理标准是非差异化的"社会契约"。</p><p class="ql-block">—关系：道德评判与伦理规约相互关联；在一个社会中个体道德水准普遍越高，伦理规则的文明程度越高；道德差异化程度越大，形成高水平的伦理规则越难。</p> <p class="ql-block">道德的"多样分布"与伦理的"聚类共识"</p> <p class="ql-block">一个调查：恋爱或婚姻中的"诚信"问题，如何对待恋人或爱人的"撒谎"行为？</p><p class="ql-block">﹣看撒谎的动机和后果</p><p class="ql-block">﹣只要撒谎就不行</p><p class="ql-block">﹣在双方约定的范围内不能接受撒谎</p><p class="ql-block">﹣相信对方这个人是不会撒谎的</p><p class="ql-block">﹣无所谓</p> <p class="ql-block">道德、伦理与法律</p><p class="ql-block">—法律：底线；面向全体；强制性；</p><p class="ql-block">—伦理：基线；面向群体；具有群体差异性；非强制性／强制性</p><p class="ql-block">—道德：具有个体差异性，散点分布，可引领走向高线，走向卓越。</p> <p class="ql-block">当代科技伦理问题对传统伦理学立场的挑战</p><p class="ql-block">伦理立场：、后果论、义务论、契约论、德性论</p> <p class="ql-block">中国的 AI 、数据治理法律、规章的主要关注点</p><p class="ql-block">重视算法框架下的消费者权益（《互联网信息服务算法推荐管理规定》,2022)</p><p class="ql-block">—知情：算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。</p><p class="ql-block">—非针对性：算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。</p><p class="ql-block">—未成年保护：算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务</p><p class="ql-block">—公平：保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。</p><p class="ql-block">—报备：具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。</p> <p class="ql-block">新兴科技伦理治理：我们究竟想要什么？</p><p class="ql-block">—赫拉利：拥有神的能力，但是不负责任、贪得无厌，而且连想要什么都不知道。天下危险，恐怕莫此为甚。</p><p class="ql-block">未来简史</p><p class="ql-block">—科技向善："善"已非自明；专业化、场景化</p><p class="ql-block">—资本的力量使这种风险更加难以控制</p><p class="ql-block">—人类立场、国家立场、个人立场的冲突和竞争加剧了这个问题的复杂性</p> <p class="ql-block">—可持续发展；包容性发展；高质量发展·—人类福祉、生命尊严、公平公正</p><p class="ql-block">—如何看待新挑战下的"科林格里奇困境"：试图控制一项技术是困难的，而且是几乎不可能的，因为在其早期阶段，当它可以被控制时，对其有害社会后果的了解还不够充分，因此没有理由控制它的发展；但当这些后果显而易见时，控制已变得代价高昂和缓慢。</p><p class="ql-block">—科技"后果"和风险的不确定性。</p><p class="ql-block">—科技时代的风险和"伦理规范"往往不是自明的，需要不断地"重新"界定。</p><p class="ql-block">—不可能依赖完全的"结果治理"和绝对的"预防原则"</p> <p class="ql-block">走向"全员治理"与"共同责任"</p><p class="ql-block">—防止科技"反噬"人类，需要每一个体都意识到自己的责任，走向"全员治理"</p><p class="ql-block">—提高个体道德水平，加强社会伦理规范，完善国家法规规制</p><p class="ql-block">—坚守"底线"；提高"基线"；追求"卓越"</p> <p class="ql-block">人工智能伦理治理：价值观与伦理原则</p><p class="ql-block">中国：《新一代人工智能伦理规范》·增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养</p><p class="ql-block"> UNESCO :《人工智能伦理建议书》·价值观：尊重、保护和促进人权和基本自由以及人的尊严；环境和生态系统蓬勃发展；确保多样性和包容性；生活在和平、公正与互联的社会中</p><p class="ql-block">—原则：相称性和不损害；安全和安保；公平和非歧视；可持续性；隐私权和数据保护；人类的监督和决定；透明度和可解释性；责任和问责；认识和素养；多利益攸关方与适应性</p> <p class="ql-block">走向"反思性发展"的新型发展观</p><p class="ql-block">—以良性发展为目标，形成敏捷治理新规则；融"敏捷治理"和"全过程治理"</p><p class="ql-block">于发展进程中，把握发展方向，塑造发展新路径。</p><p class="ql-block">—发展目标的集体磋商与共识塑造</p><p class="ql-block">—发展方向的前瞻预见与集体选择</p><p class="ql-block">—负责任的研究设计与可控的社会实验</p><p class="ql-block">—实时的过程评估与风险防范</p><p class="ql-block">—有效的集体纠错与新路径的集体建构</p> <p class="ql-block">科技伦理治理的五项要求</p><p class="ql-block">—伦理先行。加强源头治理，注重预防，将科技伦理要求贯穿科学研究、技术开发等科技活动全过程，促进科技活动与科技伦理协调发展、良性互动，实现负责任的创新。</p><p class="ql-block">—依法依规。坚持依法依规开展科技伦理治理工作，加快推进科技伦理治理法律制度建设。</p><p class="ql-block">—敏捷治理。加强科技伦理风险预警与跟踪研判，及时动态调整治理方式和伦理规范，快速、灵活应对科技创新带来的伦理挑战。</p><p class="ql-block">—立足国情。立足我国科技发展的历史阶段及社会文化特点，遵循科技创新规律，建立健全符合我国国情的科技伦理体系。</p><p class="ql-block">—开放合作。坚持开放发展理念，加强对外交流，建立多方协同合作机制，凝聚共识，形成合力。积极推进全球科技伦理治理，贡献中国智慧和中国方案。</p> <p class="ql-block">人工智能伦理治理：政策与行动</p><p class="ql-block">中国：《新一代人工智能伦理规范》：管理规范、研发规范、供应规范和使用规范</p><p class="ql-block"> UNESCO :《人工智能伦理建议书》</p><p class="ql-block">政策行动是对本建议书提出的价值观和原则的具体落实。主要行动是会员国出台有效措施，包括政策框架或机制等，并通过开展多种行动。</p><p class="ql-block">政策领域1：伦理影响评</p><p class="ql-block">政策领域2：伦理治理和管理</p><p class="ql-block">政策领域3：数据政策</p><p class="ql-block">政策领域4：发展与国际合作</p><p class="ql-block">政策领域5：环境和生态系统</p><p class="ql-block">政策领域6：性别</p><p class="ql-block">政策领域7：文化</p><p class="ql-block">政策领域8：教育和研究</p><p class="ql-block">政策领域9：传播和信息</p><p class="ql-block">政策领域10：经济和劳动</p><p class="ql-block">政策领域11：健康和社会福祉</p> <p class="ql-block">走向"敏捷治理"与"全过程治理"</p><p class="ql-block">—防止科技反噬人类要"防微杜渐"，不断完善治理体系。</p><p class="ql-block">—从"结果治理"、"预防式治理"走向"敏捷治理"和"全过程治理"。·敏捷治理：加强科技伦理风险预警与跟踪研判，及时动态调整治理方式和伦理规范，快速、灵活应对前沿科技发展带来的伦理挑战。</p><p class="ql-block">—在"敏捷治理"和"全过程治理"中，树立每个人都既是"发展者"又是"治理者"的新理念，摆脱"发展"与"治理"的二元对立，摆脱"发展者"与"治理者"的对抗和博弈。</p><p class="ql-block">—走向融合发展与治理的新型发展观："反思性发展"</p> <p class="ql-block">中国的 AI 、数据治理法律、规章的主要关注点：—数据安全被置于突出重要地位(《中华人民共和国数据安全法》,2021)</p><p class="ql-block">—数据安全与发展：国家实施大数据战略，推进数据基础设施建设，鼓励和支持数据在各行业、各领域的创新应用；国家建立健全数据交易管理制度，规范数据交易行为，培育数据交易市场。</p><p class="ql-block">—数据分类分级保护制度：国家建立数据分类分级保护制度，根对国家安全、公共利益或者个人、组织合法权益造成的危害程度，对数据实行分类分级保护；关系国家安全、国民经济命脉、重要民生、重大公共利益等数据属于国家核心数据，实行更加严格的管理制度。</p><p class="ql-block">—数据安全审查制度：国家建立集中统一、高效权威的数据安全风险评估、报告、信息共享、监测预警机制；国家建立数据安全审查制度，对影响或可能影响国家安全的数据处理活动进行国家安全审查。</p> <p class="ql-block">中国的 AI 、数据治理法律、规章的主要关注点</p><p class="ql-block">—保护自然人的正当数据权益（《中华人民共和国个人信息保护法》,2021).个人数据权利：知情及同意权（包括撤回）、拒绝权、个人信息查阅及复制权、更正及补充权、删除权，等；在公共场所安装图像采集、个人身份识别设备，应当为维护公共安全所必需（不得用于其它目的），并设置显著的提示标识</p><p class="ql-block">—敏感个人信息处理：敏感个人信息（生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息，以及不满十四周岁未成年人的个人信息）的处理，应当取得个人（或监护人）的单独同意</p><p class="ql-block">—自动化决策：通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式</p><p class="ql-block">—个人信息处理者义务：处理个人信息达到国家网信部门规定数量的个人信息处理者应当指定个人信息保护负责人，负责对个人信息处理活动以及采取的保护措施等进行监督</p><p class="ql-block">—个人信息保护影响评估：处理敏感个人信息，利用个人信息进行自动化决策，向境外提供个人信息，委托处理个人信息、向其他个人信息处理者提供个人信息、公开个人信息，等，需要进行事前个人信息保护影响评估</p> <p class="ql-block">Recommendation on the ethics of artificial intelligence (2021)</p><p class="ql-block">—与人工智能系统有关的伦理问题涉及人工智能系统生命周期的各个阶段，此处系指从研究、设计、开发到配置和使用等各阶段，包括维护、运行、交易、融资、监测和评估、验证、使用终止、拆卸和终结。此外，人工智能行为者可以定义为在人工智能系统生命周期内至少参与一个阶段的任何行为者，可指自然人和法人，例如研究人员、程序员、工程师、数据科学家、终端用户、工商企业、大学和公私实体等。</p><p class="ql-block">—人工智能系统引发了新型伦理问题，包括但不限于其对决策、就业和劳动、社交、卫生保健、教育、媒体、信息获取、数字鸿沟、个人数据和消费者保护、环境、民主、法治、安全和治安、双重用途、人权和基本自由（包括表达自由、隐私和非歧视）的影响。此外，人工智能算法可能复制和加深现有的偏见，从而加剧已有的各种形式歧视、偏见和成见，由此产生新的伦理挑战。</p> <p class="ql-block">《新一代人工智能伦理规范》（中国，2021.9)</p><p class="ql-block">—第一条本规范旨在将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露等问题。</p><p class="ql-block">—第二条本规范适用于从事人工智能管理、研发、供应、使用等相关活动的自然人、法人和其他相关机构等。</p><p class="ql-block">（一）管理活动主要指人工智能相关的战略规划、政策法规和技术标准制定实施，资源配置以及监督审查等。</p><p class="ql-block">（二）研发活动主要指人工智能相关的科学研究、技术开发、产品研制等。</p><p class="ql-block">（三）供应活动主要指人工智能产品与服务相关的生产、运营、销售等。</p><p class="ql-block">（四）使用活动主要指人工智能产品与服务相关的采购、消费、操作等。</p> <p class="ql-block">联合国教科文组织《人工智能伦理问题建议书》</p> <p class="ql-block">《新一代人工智能伦理规范》</p>