使用人工智能在教育中有哪些风险？

(本文翻译自Europapress)

《教育中使用人工智能指南》由dide.org发布，指出在学龄阶段使用这项技术的风险，包括可能替代师生互动、在没有人工监督的情况下用于自动化评估、以及对有特殊教育需求的学生缺乏可及性。

这份指南由儿科神经学家兼INANP中心主任Manuel Antonio Fernández和dide.org的心理学主任Nuria Ros编写，强调人工智能»不应替代教育过程中的人际互动»，因为教师在教学中继续发挥积极作用至关重要，他们需要引导学生、促进批判性思维和问题解决能力的发展，并营造积极和充实的学习环境。

该指南还警告了人工智能算法»缺乏透明度和控制»的问题，因此强调工具»必须透明，教师和家长需要对收集的数据及其使用方式拥有控制权»。

专家们主张避免使用会歧视或隔离学生的人工智能系统，因为这些系统可能会延续现有的偏见或产生新的偏见。他们强调，»这些技术的透明运作、个人数据的保护、现行法规的遵守以及对用户权利的尊重是构建可信赖且高效教育环境的基本支柱。»

指南指出，学习评估“应是一个综合过程，考虑各种方面，而不仅仅是自动化评估的结果。”虽然人工智能可以作为评估的有用工具，但“始终需要辅以教师的评估和个性化反馈。”

关于抄袭和学术工作缺乏原创性的问题，专家们认为学生应意识到人工智能“不能用于抄袭或生成没有自身努力的学术作品。”因此，培养学生的原创性、批判性思维和自主研究能力至关重要。

适当的人工智能培训的重要性

同样地，专家们强调，教师和学生接受适当的人工智能培训是“至关重要的”，以便他们能够“有效且负责任地”使用这些工具。通过这种方式，师生“应理解人工智能的可能性和局限性，以及其使用所带来的潜在风险”。

确保人工智能对所有学生的可及性

指南强调，人工智能应对所有学生可及，无论他们的能力或特殊教育需求。因此，指南呼吁采取措施，确保这项技术“不会扩大现有的教育差距”。

保持人工智能工具的更新和良好运行

指南指出，保持人工智能工具的更新和良好运行“对于确保其安全性和有效性是至关重要的”。“应实施机制以检测和纠正教育中使用的人工智能系统中的可能故障或错误，”指南具体说明。

结论

在结论中，文件指出，人工智能有可能积极地改变教育，但其负责任和道德的使用“对于确保青少年获得安全、有效和丰富的学习体验是至关重要的”。