美国政府拟出台新规定，要求对使用人工智能的算法进行评估和监管

摘要：划重点:- 美国政府计划出台新规定，要求对在医疗保健、执法和住房领域使用的算法进行评估，以防止潜在的歧视或其他对人权产生不良影响。- 新规定可能会迫使美国政府在AI方面采取改变，例如FBI使用的面部识别技术，该..

划重点:

- 美国政府计划出台新规定，要求对在医疗保健、执法和住房领域使用的算法进行评估，以防止潜在的歧视或其他对人权产生不良影响。

- 新规定可能会迫使美国政府在AI方面采取改变，例如FBI使用的面部识别技术，该技术因未采取国会要求的措施以保护公民自由而受到批评。

- 新规定将要求政府机构在2024年8月之前评估现有算法，并停止使用不符合规定的算法。

白宫管理和预算办公室今天发布了一份草案规定，要求联邦机构评估和持续监测在医疗保健、执法和住房等领域使用的算法，以防止潜在的歧视或其他对人权产生不良影响。一旦生效，这些规定可能会迫使美国政府在AI方面采取改变，例如FBI使用的面部识别技术，该技术因未采取国会要求的措施以保护公民自由而受到批评。新规定将要求政府机构在2024年8月之前评估现有算法，并停止使用任何不符合规定的算法。

草案指令称:“如果益处不真正超过风险，机构就不应使用AI。”但草案备忘录对涉及国家安全的模型进行了例外，并允许机构有效地对自己发布豁免，如果停止使用AI模型“会对重要机构运作造成不可接受的阻碍”。

图源备注：图片由AI生成，图片授权服务商Midjourney

这份草案规定是在拜登总统签署行政令两天后由白宫管理和预算办公室发布的，该行政令相当于一个全面的计划，旨在同时增加政府对AI的使用，并试图防止技术带来的伤害。保护人们免受AI的伤害是一个重要主题，该行政令的规定包括对大型AI模型和计算集群开发者的报告要求。

拟议中的白宫管理和预算办公室规定将要求将从私营公司购买的算法纳入联邦合同的测试和独立评估要求之中，该办公室在其协调总统优先事项的部门的角色中可以这样做。它们还将要求政府机构评估和监控现有算法以及未来可能获取的算法对隐私、民主、市场集中和获得政府服务的负面影响。

草案备忘录要求由与系统开发无直接关系的人员进行算法的测试和评估，并鼓励对生成AI模型进行外部的“红队”测试。它还指示联邦机构的领导人探索他们如何在不带来不必要风险的情况下使用生成AI，例如OpenAI的ChatGPT。

拜登的AI行政命令要求白宫管理和预算办公室在接下来的五个月内向联邦机构提供指导。该办公室将邀请公众对草案政策提供意见直至12月5日。

OMB管理副主任Jason Miller说:“该框架为联邦机构提供了一套具有约束力的要求，以便为人工智能的使用制定保障措施，以便我们能够利用这些好处，使公众能够信任联邦政府提供的服务。备忘录草案强调了人工智能的某些用途，在这些用途中，该技术可能会损害权利或安全，包括医疗保健、住房和执法——过去算法导致歧视或拒绝服务的所有情况。

据OMB称，联邦机构目前使用700多种算法，尽管联邦机构提供的清单并不完整。米勒说，备忘录草案要求联邦机构更多地分享他们使用的算法。