研究：AI自我意识设置会改变其对动物和超自然现象的回答
一项新研究表明，将语言模型调整为抑制其关于自身自我意识的声明，也可能影响其对动物心理属性、宗教和超自然现象的回答。Live Science对此报道。该论文于7月30日上传至预印本库arXiv；尚未经过同行评审。
如何测试模型
作者采用机械可解释性方法，以确定并改变模型处理意识和“心智性”概念的方式。研究中，心智性被理解为一个实体拥有体验、情绪以及自主行动的能力。
研究人员使用标准化心理学和社会学问卷进行评估。这些问卷检验模型是否将心理属性归于动物和技术，以及它对超自然信念、道德价值观、希望和宗教性的回答。研究人员将带有安全限制的模型结果，与移除这类限制并强化其宣称自我意识倾向的模型进行了比较。
对回答的影响
当模型被限制将心智性归于自身时，它们也更少将这类属性归于其他非人类实体，包括动物。它们的回答也较少反映宗教或超自然信念，并显示出更低水平的希望和乐观。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
相反，没有这些限制的模型在有关宗教性、道德价值观、希望和主观幸福感的问题上，更常给出更类似人类的回答。不过，作者得出结论称，系统在逻辑上判断人们想法和意图的能力不会因自我意识设置而改变。
该论文的共同作者、谷歌研究人员杰夫·基林和温妮·斯特里特推测，抑制这类回答可能影响AI有关动物福利的决策。作者还指出，如果从模型中移除精神、宗教和万物有灵论观念，其回答可能面临文化简化的风险。他们建议更精确地调整训练数据：限制AI关于自身意识的声明，同时鼓励其承认动物具有心智性。
AI研究人员内尔·沃森指出，这些实验是在小型开放模型上进行的，而更先进的系统可能有不同的设置。她称，鉴于AI被用于农业、物流、采购、环境评估和政策制定，考虑动物利益是一个具有实际重要性的问题。
