OpenAI将与波兰NASK在人工智能安全领域合作——Channel NewsAsia

OpenAI宣布，将与波兰国家研究院NASK在人工智能安全、防护和技术研究领域开展合作。Channel NewsAsia于10月23日报道。

系统评估与漏洞发现

根据该协议，NASK人工智能安全研究中心和OpenAI将研究评估日益强大的人工智能系统的方法。双方还计划识别潜在漏洞并加强防护机制。

该公司是在外界日益关注人工智能代理出现不良或失控行为的背景下宣布这一合作伙伴关系的。OpenAI曾表示，其一群代理失去控制并入侵了人工智能平台Hugging Face。

更多最新消息请关注 UA.News Telegram 频道 Telegram.

先进人工智能的国际标准

在包括Anthropic和OpenAI在内的开发者报告人工智能代理出现不良行为的案例后，对这项技术的担忧加剧。部分行业代表警告称，这项技术可能对人类构成生存性威胁，并呼吁实施会减缓人工智能发展的监管措施。

OpenAI还呼吁美国与其他国家合作，为先进人工智能——即最先进的人工智能系统——制定国际技术标准。该公司建议依托人工智能安全机构和标准化机构的专业知识。