NDTV:OpenAI员工多年来警告安全漏洞
据NDTV报道,并援引五名知情人士的说法,在2022年底ChatGPT推出之前,美国的OpenAI员工就曾向管理层和董事会警告内部安全方面的不足。一些员工在提出这些警告后认为,管理层更专注于与Google和Anthropic竞争,而非保护相关技术。
访问内部研发内容
消息人士称,能够访问OpenAI源代码的员工可以查看许多项目的技术细节,包括与其工作无关的项目。该公司将大部分代码存储在一个大型代码库——单体代码库中。员工担心,在这种条件下,外部人员,包括外国政府,可能相对容易地获取敏感信息。
OpenAI表示,最敏感的研发内容存储在设有严格访问控制的独立代码库中。该公司还指出,单体代码库并不包含其全部代码,也不包含有关模型的至关重要信息,其中包括权重参数。
录音设备案件
10月13日,美国司法部宣布逮捕35岁的沙特阿拉伯公民阿卜杜勒拉赫曼·阿尔福赞,当时他是OpenAI的一名工程师。他被控在管理层会议室安装隐藏的录音设备;根据一份法庭文件,该设备被藏在卫生纸中。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
根据法庭材料,阿尔福赞还使用了一款供OpenAI员工使用的人工智能工具,以查找有关高管前往沙特阿拉伯的行程以及可能参加与沙特部长会面的官员的内部文件。他的律师未回应置评请求。
加强防护
据两名消息人士透露,高级产品开发主管蒂博·索蒂奥领导了一项保护OpenAI系统的内部计划。一名消息人士称,8月,他重新调配了生产部门四分之一的工程师,以改善安全基础设施。
OpenAI表示,目前会定期检查内部工具的安全性。该公司称,已加强针对内部人员、网络犯罪分子和国家机构攻击的防护,并正在准备下一阶段内部网络安全强化工作。