随着人工智能技术越来越多地融入教育领域，一场潜藏在便利之下的未成年人隐私泄露乱象正悄然浮出水面。从学生的错题记录、学习轨迹，到日常的行为数据，甚至是设备麦克风权限，都可能在不知不觉中被暗中采集乃至交易。
这一问题的核心在于，AI教育应用在处理大量未成年人信息的过程中，存在显著的数据安全风险。这些信息往往包含学习轨迹、行为数据、心理健康线索乃至家庭情况等高度敏感的内容。当学生或教师为了方便，使用公网上的AI大模型来完成作业、生成教案或进行互动时，这些包含隐私的对话记录、学生作品就可能被上传至第三方平台，形成了数据“出域”与被再利用的风险。许多用户并未意识到，一些AI应用默认开启了数据上传设置，用于所谓的“模型训练”，用户的聊天记录、上传的文件甚至语音、共享屏幕等信息，在未经明确告知和主动选择的情况下就被收集，让个人隐私近乎“裸奔”。
更令人担忧的是，AI对权限的索取十分广泛。为了实现更多功能，AI应用常常要求开放相册、文件、定位乃至麦克风等权限。用户为了图方便往往会直接授权，却忽略了这等于向AI敞开了窥探个人生活的大门。特别是语音数据，已成为一种新的隐私威胁。AI可以通过分析语音、语调和用词，推断出用户的健康状况、情绪、财务水平等深层信息，并进行用户画像，这些画像可能被用于商业营销、价格歧视，甚至更恶意的行为。
除了隐私泄露，AI在教育场景中的滥用也带来了新的挑战。一线教师和家长普遍反映，生成式AI的“代劳化”趋势日益明显，学生越来越擅长用AI“出答案”，却不愿自己“走过程”。这种“能力外包”的习惯，可能在潜移默化中削弱学生的耐心、推理能力和判断力，长远来看会影响其学习品质与学术诚信。同时，AI模型输出内容的不确定性和潜在的算法偏见，也可能在构建学生画像时产生价值偏差，对未成年人形成错误引导。
针对这一系列乱象，法律层面已有严格规定。根据《个人信息保护法》和《未成年人保护法》，未成年人个人信息属于敏感信息中的特殊类别，受到双重严格保护。处理此类信息，必须取得监护人的单独、明确同意，并遵循“最小必要”原则，严禁过度收集。任何利用未成年人信息进行商业营销、精准诱导等行为都是违规的，相关企业必须采取最高等级的安全防护措施，否则将面临高额罚款、停业整顿等严厉处罚。
为应对挑战，各方正在探索解决方案。教育部已明确提出将建立人工智能教育应用的安全防护体系，对教育大模型进行安全审核，并强化AI产品进校园的管理，防范利用AI进行的学术造假等问题。有专家建议，应将“未成年人数据不出域”作为AI+教育的工程底线，通过建设区域性的教育人工智能公共平台，实现统一入口、统一认证和统一审计，确保数据在可控范围内流转。
同时，建立AI使用的规范也至关重要。例如，可以制定教育场景下AI使用的“负面清单”和“推荐清单”，明确杜绝“代劳式”使用，并引导学生学会对AI生成的内容进行事实核验、来源标注和偏见识别。将AI素养从单纯的技术技能课，升级为包含价值判断和伦理讨论的通识教育，教导学生“什么时候不用、为什么不用”，比教会“怎么用”更为重要。这需要政府、企业、学校和家庭多方协同，共同建立起完善的治理体系与技术防线，确保AI技术在教育领域的应用能够真正向善而行，守护好每个孩子的成长安全。
