前安全工程师起诉 Figure AI,引发严峻的安全担忧
Figure AI,一家备受瞩目的人形机器人开发商,目前正面临一项联邦举报人诉讼。一名排名前列的前首席安全工程师声称,他在警告公司领导层这些机器可能造成致命伤害(包括足以导致人类头骨骨折的力度)后被解雇。该诉状已提交至 Northern District of California,称原告在公司内部提出了有记录的安全异议,并指控该公司随后修改了向投资者展示的安全路线图。
诉讼指控内容
在媒体报道中被确认为首席产品安全工程师的原告表示,他多次向高级管理层发出警告,称公司的人形机器人原型机可能会产生极其危险的巨大力量。诉讼文件中引用的一个例子是,据报道,一次机器人故障在钢制冰箱门上刻出了一道四分之一英寸深的裂口——诉讼利用这一具体事件来证明风险是真实且可预见的。诉状称,该工程师向包括 CEO 和总工程师在内的高管表达了他的担忧,并在发送了一份他称之为全面的、最终的安全投诉后不久被解雇。
关于投资者演示和被“阉割”的安全计划的指控
此外,该诉讼还指控该工程师为潜在投资者准备的一份详细安全计划在融资轮结束前被削弱或更改——根据估值报告,该轮融资对公司的估值约为 390 亿美元。原告律师表示,稀释向投资者展示的安全路线图可能构成误导性披露;该公司否认了这些指控,并称该工程师是因绩效原因被解雇的。这一争端引发了关于在快速融资周期中如何处理工程风险披露的问题。
为什么这对机器人技术和公众安全至关重要
人形机器人是物理力量强大的设备。当执行器、杠杆作用和控制软件相结合时,高速移动的肢体可以产生巨大的瞬态力。生物力学研究和法医数据表明,头骨骨折的阈值各不相同,但受控的实验室测试和撞击研究表明,在许多情况下,成年人头骨的典型骨折力在几千牛顿左右——如果没有功率和力限制、防护装置或经过验证的安全模式,不受约束的工业执行器是可以达到这些数值的。这些技术现实正是为什么安全工程和独立验证是将人形机器人从演示机转变为可以在人类周围工作的机器的关键所在。
标准和公认的工程控制措施
行业实践对于安全的人机交互依赖于分层的风险降低措施:周密的系统级风险评估、限制冲击能量的机械设计选择、控制系统的功率和力限制、传感器以及可靠的隔离或停止功能,以及针对国际标准的书面验证。ISO 机器人安全系列标准(历史上为 ISO 10218 以及 ISO/TS 15066 中的技术指南)规范了如何评估身体不同部位的风险,并定义了可接受的方法,如功率和力限制以及速度和距离监控。最近的修订继续将协作机器人指南整合到核心工业机器人框架中,反映了机器人与人共处空间的现实应用场景日益增加。
法律和监管轮廓
在法律方面,该诉状结合了非法解雇和举报人主题,并可能涉及投资者披露角度;如果向投资者展示的安全计划被实质性修改,可能会引起监管机构的审查或引起民事索赔。此案发生之际,立法者和监管机构正加强对 AI 和机器人技术的关注。立法者最近提出或推进了旨在保护报告 AI 相关安全风险的员工的措施,关于高风险系统应要求多少透明度和外部审计的辩论仍在继续。这些政策努力至关重要,因为当商业压力巨大时,仅靠内部渠道可能无法解决系统性风险。
公司回应及直接影响
Figure AI 公开否认了这位前员工的说法,称解雇是出于绩效原因,并称这些指控是虚假的。原告律师辩称,California 法律保护报告不安全行为的工人,法院需要权衡实验室事故的事实记录以及是否存在任何报复动机。对于投资者和客户来说,这起诉讼增加了这家在近期融资中吸引了巨大兴趣的公司的头条风险。报道该诉讼的媒体指出,这可能是首批明确与人形机器人安全相关的举报人案件之一。
这对行业意味着什么
- 运营谨慎: 在硬件和自主性方面发力的初创公司需要加倍重视稳健的、经独立审计的安全验证,以安抚投资者和监管机构。
- 披露预期: 包含技术简报的融资过程必须防止对缓解措施进行选择性展示;审计师和法律顾问越来越审慎地审查有关运营准备就绪的声明。
- 政策动力: 该诉状强化了关于 AI 和机器人从业者举报人保护的政策辩论,以及是否需要新制度来揭示潜在的安全风险。
故事可能如何发展
在未来几周关注几个信号:Figure 是否会以详细的工程反驳或第三方测试数据作出回应;原告是否会提交额外的证据或公开内部邮件和报告;以及监管机构或标准机构是否会发表评论或展开调查。法律程序还可能披露有关该公司如何测试扭矩、冲击和故障安全行为的细粒度技术事实——如果这些事实通过诉讼公开,可能对行业规范产生重要影响。对于研究人员、政策制定者和安全工程师来说,此案提醒人们,制造具有物理能力的机器人的技术挑战与组织实践以及塑造它们的激励机制是密不可分的。
最后一点思考
人形机器人处于软件、硬件和人类脆弱性的交汇点。将令人印象深刻的演示转变为安全、实用的机器,不仅需要更好的算法和执行器,还需要严谨的安全工程文化和透明的治理。这起诉讼很可能成为物理风险与商业势头发生碰撞时,市场、法律和标准如何相互作用的早期测试。
— Mattias Risberg,Dark Matter。常驻科隆,报道机器人、安全和技术政策。
Comments
No comments yet. Be the first!