HYGO Openai CEO Altman在听证AI法律Chatgpt | Openai中没有股权|薪水揭示|参议院听证会 5

HYGO Openai CEO Altman在听证AI法律Chatgpt | Openai中没有股权|薪水揭示|参议院听证会

OpenAI CEO Sam Altman on AI Regulations & ChatGPT | No Equity in OpenAI | Salary Reveal | Senate Hearing 5/16/2023

Facebook US registered user community with high engagement comments

youtube

2023年5月16日，美国参议院司法委员会隐私，技术和法律小组委员会主持了题为“ A.I。的监督：人工智能规则”的听证会。
证人包括：
OpenAI首席执行官Samuel Altman
克里斯蒂娜·蒙哥马利（Christina Montgomery），IBM首席隐私与信托官
加里·马库斯（Gary Marcus），纽约大学名誉教授

路易斯安那州的参议员约翰·肯尼迪（John Kennedy）要求chatgpt Maker Openai的首席执行官Sam Altman，他是否可以建议一些人监督一家新机构来监督AI。

AI法规，参议院听证会的OpenAI（CHATGPT）首席执行官Samuel Altman
肯尼迪：因为我想听听奥特曼先生的消息。奥特曼先生，这是你的镜头。

奥特曼：谢谢你参议员。第一，我将组建一家新机构，该机构许可在一定能力规模的规模上进行任何努力，并可以将许可证带走并确保遵守安全标准。第二，我将创建一套安全标准，重点是您在第三个假设中所说的作为危险能力评估。我们过去使用过的一个例子是寻求查看模型是否可以自我重复并将渗出物出售到野外。我们可以为您提供我们认为在那里很重要的事情的其他列表，但是模型必须通过才能将其部署到世界之前必须通过的特定测试。然后第三，我需要独立审核。因此，不仅来自公司或代理机构，而且可以说该模型是或符合这些规定的安全阈值的专家，以及问题X或Y的这些绩效百分比。

肯尼迪：您能把这些信息发送给我吗？

奥特曼：我们会这样做。

肯尼迪：您赚了很多钱。你？ Altman：足以用于健康保险，没有Openai的权益
奥特曼：我爱我目前的工作
肯尼迪：如果我们颁布了这些规则，您是否有资格执行这些规则？
奥特曼：我喜欢我目前的工作。
肯尼迪：很酷。那里有资格的人吗？
Altman：我们很乐意向您发送建议。是的。

肯尼迪：好的。你赚了很多钱。你？
Altman：我不做……我为健康保险获得了足够的报酬。我在Openai没有公平。
肯尼迪：真的吗？是的。那很有意思。您需要一个律师。
奥特曼：我需要什么？
肯尼迪：您需要律师或代理商。
Altman：我正在这样做，因为我喜欢它。
肯尼迪：谢谢主席先生。

肯尼迪的3个假设：1。国会不了解AI，2。可能伤害AI＆3。
肯尼迪：谢谢大家在这里。请允许我与您分享三个假设，我希望您暂时假设是真实的。假设第一，许多国会议员不了解人工智能。假设。第二，缺乏理解可能不会阻止国会热情<laugh>陷入困境，并试图以可能损害这项技术的方式来调节这项技术。第三个假设，我希望您认为人工智能界的狂暴翼可能有意或无意地使用人工智能杀死我们所有人，并在我们垂死的整个过程中伤害了我们。假设所有这些都是真实的。请用简单的英语告诉我，两三个改革，法规（如果有的话），如果您是皇后或国王，您将实施。蒙哥马利女士。

这是您的机会，伙计们告诉我们如何正确解决这个问题。请使用它

蒙哥马利：因此，披露用于培训AI的数据，披露模型以及其性能的方式，并确保对这些模型有持续的治理。就治理而言，我们是领先优势。技术，治理，组织治理规则和澄清，需要

肯尼迪：国会，我的意思是这是您的机会，人们告诉我们如何正确解决这个问题。请使用它。

蒙哥马利：对。我的意思是，我认为，这些规则应重点放在某些情况下的AI上。因此，如果您查看A，因此，如果您查看欧盟AI法案，它具有某些用途，它说的简直太危险了，在英国将被取缔。好的？

肯尼迪：因此，我们应该首先通过一项法律，说您可以将AI用于这些用途，而不是其他法律。那是你在说的吗？我们

蒙哥马利：需要定义AI的最高风险用途。
肯尼迪：还有其他吗？

蒙哥马利（Montgomery）：当然，当然需要诸如影响评估和透明度之类的事情，要求公司展示他们的工作，以保护使用用于训练AI的数据。

肯尼迪说“用简单的英语谈话”
肯尼迪：好的，马库斯教授，如果您可以具体。这是你的镜头，伙计。 <笑>。用简单的英语说话，告诉我什么，如果我们应该实施任何规则。而且请不要仅使用概念。我正在寻找特殊性。

Marcus：第一，像我们在广泛部署之前与FDA一起使用的安全审查。如果您要向一亿人介绍一些东西，那么有人必须戴上眼球。

肯尼迪：你去了。好的。这是一个很好的数字。我不确定我是否同意，但这是一个很好的。还有什么？

马库斯：您没有要求您同意三个。第二，敏捷的监视机构遵循正在发生的事情。不仅是审视前的，而且随着世界上的事物有权回电，我们今天已经讨论了这一点。第三名将是用于AI，宪法，AI之类的资金，可以推理其在做什么。我不会将事情完全留给当前的技术，我认为这在道德方式和诚实的方式上表现不佳。因此，我将有资金基本上专注于AI安全研究。这个术语在我的领域有很多并发症。既有安全性，例如短期又是长期的。而且我认为我们需要研究这两者，而不仅仅是资助模型更大，这是一个受欢迎的事情。好的。我们需要为模型提供资金，以使其更加值得信赖。

Openai首席执行官Sam Altman在AI规定和Chatgpt | Openai中没有股权|薪水揭示|参议院听证会