塞浦路斯教授警告思维可能依赖人工智能——Cyprus Mail
塞浦路斯帕福斯内阿波利斯大学人工智能教授萨瓦斯·A·哈吉赫里斯托菲斯表示，人工智能的主要威胁可能不在于机器反叛，而在于人们逐渐失去无需算法便能思考和作出决定的信心。他在接受塞浦路斯通讯社采访时作出上述表示，Cyprus Mail报道。
同时担任科研与创新副校长的哈吉赫里斯托菲斯称，对机器的非批判性信任才是更深层的问题。他认为，社会可能会走向一种状态，即人们会觉得自己无法在不咨询人工智能的情况下作出决定。
技术集中化的风险
这位教授呼吁认真对待那些离开大型科技公司的研究人员发出的警告。他指出，这些专家从内部充分了解相关系统，并看到极其强大的工具如何迅速集中到少数公司手中。
与此同时，哈吉赫里斯托菲斯强调，公司管理者有关人工智能安全的声明不能脱离其商业利益来看待。他提到，Anthropic首席执行官达里奥·阿莫代伊提出，应对模型进行独立评估、建立共同安全标准、在系统发布前进行检查，并限制与网络攻击或生物武器有关的应用。这位教授还指出，OpenAI负责人萨姆·奥尔特曼曾主张在更严格监管和更慢节奏下继续推进技术发展。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
这位学者认为，只有在具备普遍规则、透明度和独立监督的情况下，暂停人工智能发展才能提高安全性。如果这种暂停的条件由当前行业领导者决定，就可能巩固他们的市场主导地位。他将这一风险与受监管实体对本应约束它们的规则获得决定性影响力的情况联系起来。
教育与人类责任
哈吉赫里斯托菲斯还指出了人工智能的实际危险：自动化网络攻击、恶意生物应用、虚假信息、大规模监控、招聘或信贷中的歧视、工作岗位流失，以及缺乏足够人类控制的武器系统。不过，他呼吁不要只关注人类毁灭的情景，因为据他评估，负面影响可能已经在教育、劳动、民主和日常决策中显现。
这位教授称，教育是应对这些挑战的首要方法。他认为，儿童应了解人工智能的回答是如何形成的、如何核查来源、识别不确定性、谁在选择数据，以及自动化决策对谁有利。他还强调，教育必须保留批判性思维、想象力、记忆、同理心、对话、伦理判断和责任感。
在制度层面，哈吉赫里斯托菲斯提出，应对最强大的模型实施独立监督，强制报告严重事件，让监管机构和独立研究人员获得所需信息，明确由人类对高风险决策负责，并实施有效制裁。他补充说，欧盟《人工智能法案》可以限制企业不受控制的影响力，前提是执法独立、透明且得到充分保障。
