导读 耶鲁网络领导力论坛于上周五开幕，第一场会议讨论了大数据、数据隐私和人工智能治理。该会议由耶鲁社区成员亲自主持，并在 Zoom 上向公众

耶鲁网络领导力论坛于上周五开幕，第一场会议讨论了“大数据、数据隐私和人工智能治理”。

该会议由耶鲁社区成员亲自主持，并在 Zoom 上向公众开放，是旨在将法律、技术、政策和商业方法与网络安全联系起来的三场会议中的第一场。今年论坛的主题是“弥合鸿沟：人工智能对的影响”。会议包括两个小组讨论，均由耶鲁大学全球法律挑战中心主任 Oona Hathaway 主持，小组成员来自耶鲁社区。

“每年我们都在尝试创新，”海瑟薇说。“我们的目标是在每组讨论中开辟新天地。这次我们决定真正关注耶鲁社区。[...] 我们认为这是在这个关键时刻尝试建立跨部门和项目的桥梁的机会。”

海瑟薇解释说，之所以选择从耶鲁社区吸引小组成员，部分原因是大流行的旅行限制，但也因为耶鲁的许多教职员工和学生都在研究相关问题。

周五的会议由计算机科学教授 Joan Feigenbaum 和计算机科学教授兼计算与社会倡议 Nisheeth Vishnoi 的联合创始人主持。会议重点关注人工智能的风险和机遇，特别是在隐私和监控方面。

该小组首先讨论了人工智能和机器学习的现状，特别关注面部和语音识别技术的影响。Vishnoi 将人工智能和机器学习描述为“在过去十年中取得了巨大进步”，但继续讨论人工智能在算法偏差方面的失败。

Vishnoi 说，对抗性的例子，例如自动驾驶汽车的算法可能无法识别停车标志，而停车标志有一些“人眼无法检测到的非常小的扰动”，这表明当前的机器学习技术对此类攻击非常脆弱。

Vishnoi 建议，参与式设计可以成为消除算法偏见的有效方法，让可能受影响的各方参与设计过程的每一步。

然后讨论转向人工智能和大数据对隐私问题的影响。Vishnoi 提出了制定保护人们隐私的政策的问题，例如难以将“被遗忘权”(个人可以要求删除其数据的保证)应用于人工智能和机器学习。

另一方面，费根鲍姆对人工智能风险的担忧较少，并对人工智能和量子计算机等新兴技术超越人类智能的能力表示怀疑。

“我有点怀疑人工智能，”费根鲍姆说。“怀疑不是拒绝 [...] 我经常听到关于 AI 对社会的影响、AI 对技术世界的影响 [...] 的讨论，而真正影响我们的并不是真正的 AI，它只是自动化，而是只是技术，只是计算机。”

Feigenbaum 还讨论了她的密码学领域的政策和技术之间的冲突，包括强制执法部门访问加密将如何导致整个加密系统的安全性降低。

两位小组成员就人工智能的进展及其核心定义进行了辩论。

Vishnoi 说：“我们需要消除这个神话，即 [...] 人工智能没有任何智能。” “要规范这种智能，我们必须了解这种智能。”

费根鲍姆回应说，算法框架设计中的大部分智能实际上是人类智能。

Hathaway 指出，这是一场富有成效的辩论，是论坛开始的好地方。

“这是一个存在广泛分歧的问题，播出这个问题是论坛开始的好地方，”海瑟薇对新闻说。

第二个小组是耶鲁大学法学院信息安全项目的研究员 Anat Lior;Nathaniel Raymond，国际事务讲师;耶鲁大学生物伦理学跨学科中心技术和伦理研究小组组长 Wendell Wallach。小组成员讨论了实施人工智能监管政策的困难，以及不同国家制定此类政策的方法。

Lior 描述了和在政策方面的差异，指出正在朝着监管人工智能的“统一框架”迈进，而则采取更加分散的方式。

“制定法规显然会产生某种约束——道德约束、法律约束——这将减缓这一进程，从这个意义上说，我认为正试图为人工智能创新的繁荣创造某种宽松的框架，”里尔说。“对扼杀创新的恐惧非常大 [...] 快速行动并在此过程中打破常规的口号非常化。”

鉴于最近 2021 年 11 月对红十字国际委员会的网络攻击，与红十字会合作的雷蒙德谈到了组织有必要披露此类人道主义数据遭到破坏、拦截或疏忽处理的数据关键事件，红十字会在发现违规行为后的四天内完成了这项工作。

“这真的不是一个技术故事，而是一个缺乏规范的故事，”雷蒙德说。“虽然国务院发言人内德·普赖斯呼吁对红十字会黑客事件追究责任，但国际上并没有统一的谴责声明，即人道主义数据等同于人道主义设施、人道主义工具 [...] 它以大黄色突出显示荧光笔，简而言之，关于人道主义网络空间的国际学说中的巨大漏洞。”

Wallach 专注于处理新兴技术的国际合作挑战。他描述了、中国和在处理这些“基本上无人管理的空间”方面的不同做法。

瓦拉赫说，在内部，存在着对创新的崇拜，对技术施加限制可能会阻碍发展。他将气候变化和新兴技术描述为“目前最不稳定的两个因素”，需要国际合作。

“国家层面正在回避重大问题，我们确实没有任何有效的国际合作机制，”瓦拉赫说。“谁真正在做关于增强技术、关于元宇宙的决定，以及这些决定符合谁的利益?”

今年的论坛由施密特人工智能、新兴技术和国家力量计划共同主办。该计划于 2021 年 12 月首次宣布，是国际安全研究的一项新计划，由 Google 现任技术顾问 Eric Sc​​hmidt 和他的妻子、施密特基金会联合创始人 Wendy Schmidt 捐赠 1530 万美元使之成为可能.

介绍此次活动的 Edward Wittenstein 称这是杰克逊研究所和耶鲁大学法学院全球法律挑战中心之间的“伟大合作”。维滕斯坦是杰克逊研究所国际安全研究主任和讲师。

Hathaway 将这个已经进入第五个年头的论坛描述为 Wittenstein 的“创意”。

观众中的学生(其中许多来自耶鲁大学法学院和杰克逊学院)以及 Zoom 的与会者在每次小组讨论结束时都参加了问答环节。

“这绝对值得深思，尤其是因为我来自技术方面，”参加此次活动的 Kelly Zhou '23 在接受采访时说。“我认为欣赏某些分类的法律影响是件好事。”

论坛将在 3 月 4 日和 4 月 1 日继续举行第二届和第三届会议。