爱沙尼亚列出在学校部署AI的12项风险——ERR News
爱沙尼亚塔尔图大学伦理中心工作组发布了一份分析报告，评估与AI Leap（TI-Hüpe）教育计划以及开发基于人工智能的学习应用程序相关的风险和价值选择。该文件确定了12种风险情景，并为该计划、国家、学校、科研机构和技术供应商提出建议，ERR News报道。
这些风险被分为教育教学风险、社会风险以及基础设施和治理风险。它们不仅涉及系统的技术运行和网络安全，也涉及学习目标、评估的可靠性、教师的角色、数据保护，以及爱沙尼亚语言和文化的保护。
AI必须深化学习
2024年初，90%的爱沙尼亚高中生在学习中使用人工智能，主要使用免费的商业应用程序，以更快完成学校作业。分析作者警告说，现成的高质量结果并不总是意味着学生已经掌握了材料、能够解释答案的逻辑，或能将知识应用于另一种情境。
作为AI Leap的一部分，OpenAI和爱沙尼亚研究人员正在为学校开发一款苏格拉底式学习应用程序。与普通聊天机器人不同，它旨在通过提问、提示和反馈，帮助学生独立得出结论。同时，其效果将取决于该工具如何融入学习过程、为其选择何种任务，以及教师能够在多大程度上看到学生的学习过程。
更多最新消息请关注 UA.News Telegram 频道 Telegram.
研究人员还指出，需要改变评估方式：仅靠禁令和监管不足以确保学术诚信。任务应当展现学生的思考过程，还应教导学生如实说明对AI的使用情况、核查其回答并为这些回答承担责任。
教师和爱沙尼亚语的角色
报告强调，人工智能不应变成平行教师或道德权威。它不了解学生作为一个个体，也不对其发展负责，因此教师必须在学习过程中保留主导作用。2024年秋季，一项研究中47%的教师表示，他们未在工作中使用AI工具。
该分析还单独提出了价值观和语言政策问题。大型语言模型的回答取决于训练数据、开发者的决定、安全过滤器和商业目标。国际模型也可能未能充分考虑爱沙尼亚课程、术语、文化背景以及高质量的爱沙尼亚语材料。作者建议，在大学、教师和相关领域专家参与下，持续评估该应用程序的语言质量、事实准确性、文化适切性及其与价值观的一致性。
