报告称人工智能与核武器相比可能导致人类灭绝

摘要：**划重点:**1. ????美国 政府委托报告指出，快速发展的人工智能可能通过武器化和失控导致人类灭绝，呼吁政府迅速采取行动。2. ???? 报告建议制定临时人工智能安全措施，并将其国际化，包括对人工智能计算能力设定限..

**划重点:**

1. ????美国 政府委托报告指出，快速发展的人工智能可能通过武器化和失控导致人类灭绝，呼吁政府迅速采取行动。

2. ???? 报告建议制定临时人工智能安全措施，并将其国际化，包括对人工智能计算能力设定限制、强制公司在超过一定阈值时取得政府许可，并考虑禁止公开发布强大人工智能模型的工作方式。

3. ???? 报告还建议加强对人工智能芯片的制造和出口的控制，以维护国家安全。

据《纽约邮报》报道，一份由美国政府委托的报告指出，人工智能的快速发展可能导致人类面临武器化和失控的威胁，政府迫切需要采取行动以避免潜在的人类灭绝。报告称，这一风险类似于核武器的引入，对全球安全造成潜在不稳定。

图源备注:图片由AI生成，图片授权服务商Midjourney

报告名为《提高先进人工智能安全性和安全性的行动计划》，由Gladstone AI Inc.发布，并由《时代》杂志获得。报告建议了一份为期13个月的干预蓝图，期间研究人员与来自美国和加拿大政府、主要云服务提供商、人工智能安全组织以及安全和计算专家等两百多人进行了交流。

行动计划的首要步骤是建立临时的人工智能安全措施，然后将其正式成为法律，并在国际范围内推广。其中一些措施包括成立一个新的人工智能机构，对人工智能的计算能力设定限制，要求公司在超过一定阈值时获得政府许可，并考虑禁止公开发布强大人工智能模型的工作方式，如在开源许可中。

此外，报告还建议政府加强对人工智能芯片的制造和出口的控制，以确保国家安全。这些建议旨在缓解不断增长的人工智能能力通过武器化和失控对国家安全造成的威胁，并减轻这些能力的不断扩散所带来的风险。

政府迫切需要介入，以确保人工智能的发展不会威胁到全球安全，并为此制定全面的国际安全措施。