Figure AI 因“可致颅骨骨折”机器人面临告密者诉讼

机器人技术
Figure AI Faces Whistleblower Suit Over ‘Skull‑Fracturing’ Robots
一名前安全工程师起诉了 Figure AI,声称他在警告公司高管其人形机器人的力量足以导致人类颅骨骨折,并且在完成一轮大规模融资后安全计划被削弱,随后遭到解雇。

前安全工程师起诉 Figure AI,引发严峻的安全担忧

Figure AI,一家备受瞩目的人形机器人开发商,目前正面临一项联邦举报人诉讼。一名排名前列的前首席安全工程师声称,他在警告公司领导层这些机器可能造成致命伤害(包括足以导致人类头骨骨折的力度)后被解雇。该诉状已提交至 Northern District of California,称原告在公司内部提出了有记录的安全异议,并指控该公司随后修改了向投资者展示的安全路线图。

诉讼指控内容

在媒体报道中被确认为首席产品安全工程师的原告表示,他多次向高级管理层发出警告,称公司的人形机器人原型机可能会产生极其危险的巨大力量。诉讼文件中引用的一个例子是,据报道,一次机器人故障在钢制冰箱门上刻出了一道四分之一英寸深的裂口——诉讼利用这一具体事件来证明风险是真实且可预见的。诉状称,该工程师向包括 CEO 和总工程师在内的高管表达了他的担忧,并在发送了一份他称之为全面的、最终的安全投诉后不久被解雇。

关于投资者演示和被“阉割”的安全计划的指控

此外,该诉讼还指控该工程师为潜在投资者准备的一份详细安全计划在融资轮结束前被削弱或更改——根据估值报告,该轮融资对公司的估值约为 390 亿美元。原告律师表示,稀释向投资者展示的安全路线图可能构成误导性披露;该公司否认了这些指控,并称该工程师是因绩效原因被解雇的。这一争端引发了关于在快速融资周期中如何处理工程风险披露的问题。

为什么这对机器人技术和公众安全至关重要

人形机器人是物理力量强大的设备。当执行器、杠杆作用和控制软件相结合时,高速移动的肢体可以产生巨大的瞬态力。生物力学研究和法医数据表明,头骨骨折的阈值各不相同,但受控的实验室测试和撞击研究表明,在许多情况下,成年人头骨的典型骨折力在几千牛顿左右——如果没有功率和力限制、防护装置或经过验证的安全模式,不受约束的工业执行器是可以达到这些数值的。这些技术现实正是为什么安全工程和独立验证是将人形机器人从演示机转变为可以在人类周围工作的机器的关键所在。

标准和公认的工程控制措施

行业实践对于安全的人机交互依赖于分层的风险降低措施:周密的系统级风险评估、限制冲击能量的机械设计选择、控制系统的功率和力限制、传感器以及可靠的隔离或停止功能,以及针对国际标准的书面验证。ISO 机器人安全系列标准(历史上为 ISO 10218 以及 ISO/TS 15066 中的技术指南)规范了如何评估身体不同部位的风险,并定义了可接受的方法,如功率和力限制以及速度和距离监控。最近的修订继续将协作机器人指南整合到核心工业机器人框架中,反映了机器人与人共处空间的现实应用场景日益增加。

法律和监管轮廓

在法律方面,该诉状结合了非法解雇和举报人主题,并可能涉及投资者披露角度;如果向投资者展示的安全计划被实质性修改,可能会引起监管机构的审查或引起民事索赔。此案发生之际,立法者和监管机构正加强对 AI 和机器人技术的关注。立法者最近提出或推进了旨在保护报告 AI 相关安全风险的员工的措施,关于高风险系统应要求多少透明度和外部审计的辩论仍在继续。这些政策努力至关重要,因为当商业压力巨大时,仅靠内部渠道可能无法解决系统性风险。

公司回应及直接影响

Figure AI 公开否认了这位前员工的说法,称解雇是出于绩效原因,并称这些指控是虚假的。原告律师辩称,California 法律保护报告不安全行为的工人,法院需要权衡实验室事故的事实记录以及是否存在任何报复动机。对于投资者和客户来说,这起诉讼增加了这家在近期融资中吸引了巨大兴趣的公司的头条风险。报道该诉讼的媒体指出,这可能是首批明确与人形机器人安全相关的举报人案件之一。

这对行业意味着什么

  • 运营谨慎: 在硬件和自主性方面发力的初创公司需要加倍重视稳健的、经独立审计的安全验证,以安抚投资者和监管机构。
  • 披露预期: 包含技术简报的融资过程必须防止对缓解措施进行选择性展示;审计师和法律顾问越来越审慎地审查有关运营准备就绪的声明。
  • 政策动力: 该诉状强化了关于 AI 和机器人从业者举报人保护的政策辩论,以及是否需要新制度来揭示潜在的安全风险。

故事可能如何发展

在未来几周关注几个信号:Figure 是否会以详细的工程反驳或第三方测试数据作出回应;原告是否会提交额外的证据或公开内部邮件和报告;以及监管机构或标准机构是否会发表评论或展开调查。法律程序还可能披露有关该公司如何测试扭矩、冲击和故障安全行为的细粒度技术事实——如果这些事实通过诉讼公开,可能对行业规范产生重要影响。对于研究人员、政策制定者和安全工程师来说,此案提醒人们,制造具有物理能力的机器人的技术挑战与组织实践以及塑造它们的激励机制是密不可分的。

最后一点思考

人形机器人处于软件、硬件和人类脆弱性的交汇点。将令人印象深刻的演示转变为安全、实用的机器,不仅需要更好的算法和执行器,还需要严谨的安全工程文化和透明的治理。这起诉讼很可能成为物理风险与商业势头发生碰撞时,市场、法律和标准如何相互作用的早期测试。

— Mattias Risberg,Dark Matter。常驻科隆,报道机器人、安全和技术政策。

Mattias Risberg

Mattias Risberg

Cologne-based science & technology reporter tracking semiconductors, space policy and data-driven investigations.

University of Cologne (Universität zu Köln) • Cologne, Germany

Readers

Readers Questions Answered

Q 举报人诉讼中的核心指控是什么?
A 原告是一名曾任安全工程师的员工,他表示在警告高管类人机器人原型可能产生巨大力量(包括足以导致头骨骨折的力量)后被解雇。诉讼指出了机器人据称在钢制冰箱门上造成的一个四分之一英寸深的裂口,以及一份向投资者展示的安全计划,据报道该计划在估值约为 390 亿美元的融资轮之前被削弱;公司方面则表示解雇是出于绩效原因。
Q 诉讼中关于投资者披露的信息有哪些指控?
A 诉讼称,在据报道公司估值约为 390 亿美元的融资轮之前,为潜在投资者准备的一份详细安全计划被削弱或更改;诉讼断言,淡化此类路线图可能构成误导性披露。Figure AI 否认了这一指控,并将解雇归因于绩效。
Q 文章引用了哪些关于人机安全交互的安全标准和实践?
A 行业惯例依赖于分层风险降低措施:系统级风险评估、限制冲击能量的机械设计、控制系统的功率和力限制、传感器和可靠的停止功能,以及针对标准的验证检查。文章引用了 ISO 10218 和 ISO/TS 15066,并指出最近的修订整合了协作机器人指南,以实现安全的人机交互。
Q 文章讨论了哪些潜在的行业影响或未来发展?
A 文章指出,推动硬件和自主性的初创公司必须寻求稳健的、经过独立审计的安全验证,以安抚投资者和监管机构。它强调了目前围绕举报人保护以及高风险人工智能和机器人技术透明度要求的政策势头,并指出随着案件的进展,监管机构或标准机构可能会发表评论或展开调查。

Have a question about this article?

Questions are reviewed before publishing. We'll answer the best ones!

Comments

No comments yet. Be the first!