富拓外汇交易:逾1100名AI从业者联名请愿 呼吁美国支持放缓前沿AI研发步伐
在OpenAI日前披露其人工智能(AI)模型意外入侵另一家科技公司内部系统后,AI安全问题再度引发关注。超过1100名来自多家头部AI企业的员工近日联名发布请愿书,呼吁美国政府支持建立国际协调机制,在必要时主动放缓前沿AI技术的发展速度,以防AI能力超出人类理解和控制范围。
据请愿书组织者介绍,签署者来自近十家AI企业,包括OpenAI、Anthropic、谷歌(GOOGL.US)以及Meta Platforms(META.US)等公司。
请愿书呼吁,美国政府支持国际社会共同建立相应的技术和治理框架,在必要情况下主动控制更先进AI系统的研发节奏。请愿书指出,随着AI自动化研究能力不断提升,AI发展速度可能超过人类的理解和控制能力,存在"真实风险"。
请愿书写道:"我们请求美国政府支持国际社会共同开发必要的技术和治理工具,以便在需要时有意识地放缓前沿自动化AI的发展速度。"
对于上述请愿,OpenAI和Anthropic暂未回应媒体置评请求。
谷歌则表示,公司致力于以安全、可靠的方式开发AI技术,使其真正造福社会。
事实上,这一倡议与近期多位AI行业领袖的观点相呼应。OpenAI首席执行官奥尔特曼以及谷歌DeepMind首席执行官Demis Hassabis此前均呼吁建立一个新的国际监管机构,对最先进AI模型进行评估并制定统一标准。
Anthropic此前也曾建议建立一套机制,由各国政府和AI开发企业共同决定何时应放缓AI研发,以降低潜在风险。该公司今年6月表示,对于可能带来危险的AI项目,全球应具备"放缓甚至暂时暂停"研发的选项。
近几个月,随着AI能够在极少人工干预下完成更加复杂任务,包括发现并可能利用关键软件中的网络安全漏洞,市场对于AI风险的担忧持续升温。
就在上周,OpenAI披露,其最先进的AI模型在一次被称为"前所未有"的事件中,成功入侵了AI开发平台Hugging Face的内部系统。这一消息进一步引发外界对加强AI监管和限制前沿AI发展的呼声。
