2022世界人工智能大会法治论坛 人工智能大会2019法治论坛
淘宝搜：【天降红包222】领超级红包，京东搜：【天降红包222】
淘宝互助，淘宝双11微信互助群关注公众号 【淘姐妹】
转自：上观新闻
2023年7月7日下午，以“法律：连接物理世界与数字世界”为主题的2023世界人工智能大会法治青年论坛在上海世博中心成功举办，8位人工智能法治研究领域的青年精英发表精彩演讲，探讨生成式人工智能、元宇宙、数字化司法等领域的前沿学术研究成果，聚焦数字化带来的物理世界相关基础制度建构、社会规则重塑、伦理认知对齐，破解人工智能创新发展中的治理难题，回应人类命运共同体建设。
瑞莱智慧RealAI合伙人、高级副总裁朱萌以《大模型时代的人工智能伦理风险与应对》为题发表主题演讲。她认为，人工智能语言大模型横空出世，大幅刷新了人们对AI能力边界的认知，目前至少面临AI控制权分配、采信度、人类辨别力危机、人类认知域的反向塑造、算法安全、数据安全等六大方面的风险挑战。无论是人工智能技术标准、规章，还是数字世界的法规体系建设，新规则的构建任重道远。解决好人工智能安全问题，本质上要从技术本身的内生安全做起。未来可以建设与时代相匹配的新型安全基础设施，如建设人工智能安全靶场，有效服务于广大人工智能企业对产品进行检验、训练及安全加固。应向社会提供针对不同安全场景的AI安全新工具，匹配智能社会发展阶段对安全治理方面的新诉求。
瑞莱智慧RealAI合伙人、高级副总裁朱萌
华东师范大学政治与国际关系学院教授Josef Gregory Mahoney的演讲题目为《生成式人工智能的崛起：ChatGPT与治理相关思考》。他表示，人工智能代表着新的经济增长点，对于保持技术创新和竞争前沿地位至关重要，不应受到过度限制。但作为一项新技术，人工智能可能增加人类面临的生存风险。人工智能有利有弊，人类应当学会如何与之共存并建立有效的治理机制。在现有监管框架的基础上，可以针对不同行业实施特定的人工智能法规，加强伦理指南框架并鼓励行业自律。特定的监管方法将取决于不同司法管辖区的法律、社会和文化背景。考虑到生成型人工智能的全球性质，国际合作和监管协调非常重要。中国在人工智能监管方面具备优势，需要向世界展示正确的前进方向。
华东师范大学政治与国际关系学院教授Josef Gregory Mahoney
上海政法学院经济法学院副教授商建刚就《通用人工智能治理元规则》作报告。他认为，通用人工智能的数据固有瑕疵、数据处理瑕疵、数据标注瑕疵，以及算法设计理念瑕疵、算法模型设计瑕疵、算法安全保障瑕疵等问题会传导至生成结果，以人类无法感知的方式造成损害，在网络传播条件下能直接或间接对国家、社会、私权利造成严重损害。通用人工智能治理元规则的构建要以维护人类主体地位为核心，以算法和数据规制为内容，保持多元利益的平衡，防范社会风险，具体做到协同共治、提升算法透明度、保障数据质量、伦理先行。
上海政法学院经济法学院副教授商建刚
中国人民大学副教授张吉豫发表了题为《迈向赋能型人工智能监管》的演讲。她提出，人工智能应用正在发生或即将发生难以预料的风险问题，面对这种复杂情景，必须创新人工智能监管模式，开创“赋能型人工智能”新形态。
中国人民大学副教授张吉豫
中央财经大学法学院讲师李敏报告了《元宇宙金融：风险与监管》。她认为，元宇宙代表了人们从“信息时代”向“体验时代”转变的强烈愿景，NFT是去中心化金融（DeFi）的底层资产，Web3.0是去中心化金融的技术支撑，也是构建开放式元宇宙的网络基础设施。DeFi的去中心化运营与技术特性使监管机构很难确定被监管对象和应受监管的行为，未来可以将DeFi实践中的“再中心化”主体作为潜在监管抓手，利用监管科技构建技术驱动型监管以实现自动化监管。监管沙盒是促进DeFi创新并探索监管科技的有效机制，加强国际合作是为DeFi构建全球统一监管标准、防范监管套利的重要保障。
中央财经大学法学院讲师李敏
上海交通大学研究生院副院长、凯原法学院教授程金华作题目为《元宇宙的法律底座》的演讲。他认为，观念与技术促成了元宇宙的兴起，资本与产业造就了元宇宙热点，但是法律才能决定元宇宙的未来。虚拟货币的投机和炒作需要整顿，但是对虚拟货币近乎一刀切的禁止也将导致元宇宙会成为无源之水。应从五个方面来建构元宇宙的法律底座，即明确虚拟数字人的法律地位、界定虚拟空间的法律性质、明确数字资产的法律属性、一定程度上实现虚拟货币的合法化，并制定关于智能合约的规范体系。当数字虚拟空间中的人、土地、商品、货币和交易的法律属性得到了明确保障，元宇宙才可能变成有活力的社会经济系统。
上海交通大学研究生院副院长、凯原法学院教授程金华
葡萄牙丰沙尔司法法院法官Hugo Luz dos Santos的报告题目是《生成式人工智能与法律：是敌是友？》。他认为，尽管生成式人工智能还处于初级阶段，但已在多个领域塑造了未来，并且随着时间的推移，对人类日常生活的影响将大幅增加。令人忧虑的是，随着大型语言模型的普及和广泛应用，可能导致人类的批判性思维相应减少。在短期内，生成内容可能包含不准确或误导性的信息，这是不容忽视的紧迫挑战。此外，以深度伪造为例，生成式人工智能对法治和刑法的基本原则可能构成威胁。生成式人工智能是一种能力非凡的工具，但在使用时应始终保持谨慎。
葡萄牙丰沙尔司法法院法官Hugo Luz dos Santos
上海市嘉定区人民法院院长、二级高级法官顾全以《关于“数字化”司法理念的几点思考》为题进行演讲。他表示，数字化转型最核心的特征，就是对数据要素的处理和应用。数据不仅是独立的民事权利客体，也可以成为其他民事权利客体的“数字化”载体。无论数据信息以何种载体形式出现，法官必须具备穿透性视野，厘清数据与其他权利客体数字化形态之间“形式与内容”的区别。法官必须了解数据属性，具有一定的技术和产业思维，并且对“中立”技术的具体应用场景和性质作出法律评价。数字经济案件的审判理念和格局必须与时俱进，应当具备“穿透性”视角和相对统一的裁判思路。他介绍，上海法院在嘉定设立了“数字经济司法研究及实践基地”，已经对数字经济案件分类研究体系作了初步构建。
上海市嘉定区人民法院院长、二级高级法官顾全
论坛为2023世界人工智能大会法治论坛和2023世界人工智能大会法治青年论坛征文获奖代表颁奖。
复旦大学副教授朱丹、上海大学副研究员袁曾担任论坛研讨环节主持人。
复旦大学副教授朱丹（左）
上海大学副研究员袁曾（右）
骆 珍 王沛然 郭 骏
法国通过新法案：警察可以远程激活公民手机上的摄像头！
警察可以远程监控手机吗,警察能远程控制手机吗,警察能在手机里植入跟踪软件吗,警察能远程监控手机微信聊天吗在法国持续的抗议活动中，该国刚刚通过了一项新的法案，允许警方远程访问嫌疑人手机和其他设备上的摄像头、麦克风和GPS。
据《Le Monde》报道，法国人民批评该法案是一项“窥探者”宪章，允许警方无限制地获取公民的位置。此外，警方可以激活摄像头和麦克风，对嫌疑人进行视频和音频录制。据报道，该法案只适用于最低刑期为五年的罪犯。司法部长Eric Dupond-Moretti声称，新的条款每年只会影响到几十起案件。据《Le Monde》报道，昨天在对该法案的辩论中，法国政治家增加了一项修正案，要求任何在该法案范围内进行的监视都必须得到法官的批准，并限制监视的持续时间为六个月。
法国倡导团体La 【【微信】】上个月在Twitter上发布声明说，“对于有组织的犯罪，警察可以访问设备的声音和图像。这涉及到任何连接的设备：电话，扬声器麦克风，电脑摄像头，汽车的电脑系统......所有这些都是在相关人员不知情的情况下进行的。鉴于数字工具在我们生活中的日益重要地位，接受它们在我们不知情的情况下被转化为警察辅助工具的原则，对我们的社会造成了严重的问题。”
这个法案是在法国政府先前通过技术扩大警方权力之后提出的。2021年，《纽约时报》报道，法国议会通过了一项法案，扩大法国警方使用无人机监视平民的能力。法国总统Emmanuel Macron当时辩称，这项法案的目的是保护警察免受越来越暴力的抗议者的伤害。
上个月晚些时候，由于青少年Nahel Merzouk被警察枪杀，法国开始爆发抗议活动。抗议活动席卷了全国，示威者经常与警察发生冲突。在这些抗议活动已经持续近两周的时候，这项法案得以通过。Macron还威胁要关闭社交媒体平台，因为他声称，抗议者正在像TikTok、Snapchat和Telegram这样的应用上拍摄、发布和组织抗议活动。
