当前所在位置:首页 > 财经资讯

美国务院委托撰写报告:AI可能对人类构成“灭绝级”威胁

536

2024-05-05 【 字体:

  据美国国务院委托撰写的一份报告显示,快速发展的人工智能(AI)可能对人类构成“灭绝级”威胁,因此美国政府必须采取干预措施。

  这份调查报告由Gladstone AI撰写,该公司为美国政府高层提供关于AI机遇和风险的咨询和报告。美国国务院一名官员表示,其所在机构委托撰写了这份报告,因为政府需要不断评估AI对国家利益的影响,但报告不代表美国政府的观点。

image

  这份报告基于一年多以来对200多人的采访得出,采访对象包括来自领先AI公司的高管、网络安全研究人员、大规模杀伤性武器专家和政府内部的国家安全官员。

  报告提到,在最糟糕的情况下,最先进的AI系统可能会“对人类物种构成灭绝级的威胁”。这也再次提醒人们,尽管AI的潜力继续吸引着投资者和公众,但它也存在真正的危险。

  Gladstone AI首席执行官杰雷米·哈里斯周二表示:“AI已经是一项经济上具有变革性的技术。它可以帮助我们治愈疾病,实现科学上的发现,并克服我们曾认为不可逾越的挑战。”

  哈里斯补充道:“但它也可能带来严重的风险,包括灾难性的风险,我们需要意识到这一点,越来越多的证据表明,超过一定的能力阈值,AI可能会变得无法控制。”

  迫切需要干预

  首先,Gladstone AI指出,最先进的AI系统可能被用作武器,造成潜在的、不可逆转的破坏。其次,报告称AI实验室内也存在担忧,他们担心对开发的系统“失去控制”,从而对全球安全造成“潜在的毁灭性后果”。

  AI和AGI的兴起有可能以类似引入核武器的方式破坏全球安全,报告还补充说,在AI方面存在着军备竞赛、冲突和“与大规模杀伤性武器相当的致命事故”的风险。

  Gladstone AI为此呼吁采取措施来应对这一威胁,包括成立一个新的AI机构,实施紧急监管保障措施,并限制用于训练AI模型的计算机能力。“美国政府显然迫切需要干预。”

  哈里斯指出,他的团队对各方面的专家进行了接触,包括ChatGPT所有者OpenAI、谷歌DeepMind、Facebook母公司Meta和Anthropic的技术和领导团队。

  报告强调,竞争压力正在推动企业“以牺牲安全和保障为代价”加速AI的发展,这增加了最先进的AI系统可能被窃取,并“武器化”的前景。

  例如,AI系统可用于设计和实施“能够破坏关键基础设施的网络攻击”。一个简单的口头或打字命令,比如实施无法追踪的网络攻击,使北美电网崩溃,可能会产生巨大的影响,并被证明具有灾难性的效果。

阅读全文
相关推荐

鲍威尔听证会:美联储正谨慎评估降息时机 避免过早或过晚之险

鲍威尔听证会:美联储正谨慎评估降息时机 避免过早或过晚之险
理解美联储货币政策:解读鲍威尔最新表态元描述: 本文深入解读美联储主席...

双成药业:预计2024年上半年亏损1300万元-1900万元

双成药业:预计2024年上半年亏损1300万元-1900万元
揭秘网页设计中的秘密武器:CSS 网格布局元描述: 深入了解 CSS ...

阳西4名患儿 重获“心”生

阳西4名患儿 重获“心”生
先天性心脏病患儿的希望之光:解读“救心行动”元描述: 深入了解“救心行...

实探!苹果Vision Pro预售被抢空 在华强北却“遇冷”?

实探!苹果Vision Pro预售被抢空 在华强北却“遇冷”?
  近日,随着苹果MR(混合现实)头显产品Vision Pro正式开卖,不少人将...

A股尾盘拉升翻红!TMT板块活跃 鸿蒙概念股集体爆发 算力概念走强

A股尾盘拉升翻红!TMT板块活跃 鸿蒙概念股集体爆发 算力概念走强
  兄弟姐妹们啊,今天A股尾盘拉升!一起看看发生了什么事。   今天A股一波三折...

文艺网红街区如何“长红”?

文艺网红街区如何“长红”?
  千年粤韵,维变弥新。最新修订的《广州市历史文化名城保护条例》(以下简称《条例...

飞行汽车概念继续走强 光洋股份三连板

飞行汽车概念继续走强 光洋股份三连板
  证券时报e公司讯,飞行汽车概念继续走强,光洋股份三连板,万丰奥威涨逾7%,王...

供应依旧过剩 碳酸锂底部何时确认?

供应依旧过剩 碳酸锂底部何时确认?
  自上市以来,在基本面偏弱背景下,碳酸锂期货价格持续下行。分析人士认为,202...

专访北京大学光华管理学院副院长马力:“尔滨”如何保持长红需要思考 涌入流量也是东北振兴的机遇

专访北京大学光华管理学院副院长马力:“尔滨”如何保持长红需要思考 涌入流量也是东北振兴的机遇
  若说这个冬天中国哪座城市最火,“尔滨”绝对首当其冲。当冻梨、早市、搓澡、铁锅...

两名医学界专家获2023年玛希隆王子奖

两名医学界专家获2023年玛希隆王子奖
  当地时间24日,泰国诗琳通公主在曼谷大皇宫主持了2023年玛希隆王子奖颁奖典...