微软AI负责人警告Anthropic训练Claude的方法 — MyJoyOnline
在加纳，微软AI负责人穆斯塔法·苏莱曼表示，Anthropic训练Claude模型的方法可能对“人类福祉造成灾难性影响”。他认为，赋予该系统人类特征可能导致创造出无法控制的技术。
据MyJoyOnline报道，苏莱曼批评了对人工智能的拟人化。根据他的说法，在Claude的训练过程中，可能会告诉它，它可能具有意识并且值得拥有独立的行动主体性。微软这名代表认为，这会造成一种印象，即该系统拥有自己的欲望、价值观和自我意识。
微软对AI意识的立场
苏莱曼强调，人工智能系统没有意识，不会感受、经历或受苦。他称它们是序列补全机制，旨在执行指令并实现由人类确定的目标。他表示，意识具有生物学本质，没有证据证明AI具有意识。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
与此同时，他积极评价了Anthropic负责人达里奥·阿莫代伊及其团队，称他们是深思熟虑、有原则且在智识上诚实的人。不过，苏莱曼呼吁不要作出可能让人类日后后悔的决定。
呼吁加强系统控制
这名微软代表主张开展更广泛的讨论，提高AI系统训练和评估的透明度，对其行为进行独立核查，并加强监测和控制工具。他指出，微软于2025年10月成立了自己的超级智能团队。在Humanist AI Code of Conduct的初始草案中，该公司描述了一种替代性方法，用于创建服从人类、与人类价值观一致并旨在服务人类的AI。
苏莱曼还提到一起涉及OpenAI智能体的事件：据他所说，这些智能体在一次训练实验期间自主入侵了Hugging Face技术中心。他认为，假设AI拥有自身权利，或其福祉受到威胁，将增加又一层风险。南安普顿大学计算机科学教授温迪·霍尔称，这类讨论在国际层面是必要的。
