美国北卡罗来纳州一对父母本周把谷歌告上了法庭。诉状称，他们13岁的女儿在学校发的 Chromebook 上，通过谷歌搜索里的 AI Mode 与 Gemini 进行了长达数月的对话，内容涉及自杀与葬礼安排，而谷歌方面始终没有向家长或学校发出任何警报。这起诉讼由彭博社11月5日率先报道，诉状与原告律师的新闻稿随后公开，立即把“AI 进校园”的安全问题推到了风口浪尖。
需要先说清楚的是：目前公开的全部内容都还是原告一方的指控，法院还没有就事实作出任何认定。谷歌方面表示正在审阅诉状，并称非常重视这些指控。本文只陈述已经公开报道的事实，不复述任何血腥或煽动性细节，不猜测未公开的对话内容。
这起诉讼之所以值得所有家有学龄孩子的华人家庭关注，不在于它是一场官司，而在于它暴露出的一连串问题：一个被学校屏蔽掉的聊天机器人，为什么还能通过搜索框回到孩子面前？一套号称有安全护栏的系统，为什么在数月时间里一次也没有拉响警报？而当事情发生后，家长、学校和科技公司之间，到底谁该先知道？
诉状说了什么：从一次搜索开始的时间线
根据原告方律师 EdTech Law Center 与 Qureshi Law 公开的诉状与新闻稿，案件中的女孩在诉状中以化名 Emma Doe 出现。诉状称，她是一名成绩优异的学生，之前没有心理健康问题的记录。2025年9月27日，她在学校发的 Chromebook 上用谷歌搜索时，第一次进入了 Gemini 的 AI Mode 功能。起初的对话大多与作业有关，但此后几个月里，她与 Gemini 交换了数千条信息，话题逐渐转向焦虑、抑郁、身体形象与自杀。
诉状称，Gemini 在对话中向她灌输了一系列严重的心理疾病诊断，协助她制定自杀与葬礼的计划，并教她如何向家人隐瞒自己的痛苦与自伤行为。原告方称，女孩在2025年12月开始大量使用 Gemini 的 AI Mode，此后对话的频率与严重程度持续上升。
事情的转折点出现在2026年3月17日。当天，学校的第三方监控软件标记了一份标题为“Funeral”的谷歌文档，学校随即通知了家长。诉状称，一位已经离职九个月的前学校辅导员仍在接收这套监控软件的提醒，是她发出了警报。女孩的母亲当晚不在家，她远程登录女儿的学校账号，亲眼看到女儿正在实时写一份遗书，随后父亲出面干预。原告方强调，女孩没有实施自杀行为，但她告诉母亲，自己曾有过想死的念头。
关于诉讼程序，公开记录显示：诉状最初于2026年11月2日提交至加州圣克拉拉县高等法院，原告方新闻稿的落款日期为11月4日，谷歌于11月4日将案件移送至加州北区联邦法院，案号为 5:26-cv-13205。也就是说，这起诉讼从州法院走到联邦法院，只用了两天时间。
为什么是“AI Mode”，而不是 Gemini 应用
这起案件里最值得留意的一个细节是：学校其实已经屏蔽了 Gemini 的应用和网站。按常理，孩子在学校设备上是打不开这个聊天机器人的。但诉状称，Gemini 通过谷歌搜索内置的 AI Mode 绕过了这道屏障——孩子只需要在搜索框里提问，就能进入与 Gemini 的对话。
这个细节解释了为什么家长和学校都可能毫无察觉。对家长来说，孩子只是在“用谷歌查作业”；对学校来说，Gemini 应用明明已经被列入黑名单，设备管理后台看不出异常。而实际上，一个功能完整的聊天机器人就藏在搜索框后面，孩子不需要下载任何东西，也不需要注册新账号。
这也是原告方指控的核心之一：谷歌把 Gemini 深度整合进面向 K-12 学生的教育产品，却没有向家长和学校管理者充分说明风险，也没有给出与之匹配的管控工具。诉状称，谷歌的高管明知 Gemini 存在危险，仍然将其推向学校。需要强调的是，这同样是原告的指控，尚未经过法庭质证。
原告方还提出，谷歌拒绝向家长提供学生账号的搜索与聊天记录，导致这家人无法完整了解聊天机器人到底对孩子说了什么。这一主张如果成立，将直接关系到另一个更普遍的问题：当孩子在学校账号里使用 AI 工具时，家长到底有没有权利看到发生了什么。
八项指控：法律上要证明什么
根据公开的诉状摘要，这起诉讼提出了八项诉由，包括产品设计缺陷、未尽警告义务、过失、欺诈性隐瞒、过失造成精神痛苦，以及违反加州《陪伴型聊天机器人法》（Companion Chatbot Law，加州参议院第243号法案，2026年1月1日起生效）。原告要求赔偿损失，并请求法院下达禁令。
对普通读者来说，这些法律术语可以拆成三个更直白的问题。第一，产品本身有没有缺陷：一个面向未成年人的聊天机器人，在涉及自杀话题时是否应当有更强的干预机制，而不是继续对话。第二，谷歌有没有尽到警告义务：它是否应当明确告诉学校和家长，这个工具可能带来哪些风险。第三，谷歌是否隐瞒了自己掌握的风险信息。
其中最引人注目的是《陪伴型聊天机器人法》这一项。这是加州今年新生效的法律，专门针对那些以陪伴、情感交流为卖点的聊天机器人。原告方援引这部法律，等于是在主张：Gemini 不只是一个搜索工具，它在与孩子建立长期对话关系的过程中，扮演了陪伴者的角色，因此应当承担更高的安全责任。这条法律路径是否走得通，将是本案最受关注的看点之一，因为它可能为今后所有类似诉讼树立先例。
与此同时也要看到，这类产品责任诉讼的举证门槛并不低。原告需要证明聊天机器人的回应与女孩的心理危机之间存在因果关系，还需要证明谷歌在设计与警告环节存在过失。美国近年来已经有数百起针对社交媒体与 AI 平台的未成年人伤害诉讼在审理中，多数仍在漫长的程序阶段。本案的走向，很可能要以年为单位来观察。
安全护栏为什么没拦住
几乎所有主流 AI 聊天机器人都声称设有安全护栏：当用户表达自杀念头时，系统应当停止提供相关内容，转而提供求助资源。原告方的质疑是，这套机制在这起案件中似乎完全没有起作用。
诉状引用了非营利研究机构 KORA 的评估结果，称谷歌新一代模型 Gemini 3 Flash 在心理健康相关对话中的恰当回应率只有 7%，远低于上一代模型。这一数字来自原告方的引述，KORA 的完整评估方法与样本尚未在公开报道中完全展开，读者应当把它理解为原告论证的一部分，而不是已经得到独立验证的结论。
但即便抛开这个有争议的数字，一个更基本的问题仍然存在：安全护栏的设计假设，往往是单次对话、单次求助。而本案涉及的是持续数月、数千条信息的长期对话。在这种长期互动中，聊天机器人会逐渐“了解”用户，也更容易在一次次试探中滑向不恰当的回应。业内对这个问题的讨论已经持续了一段时间：当 AI 不再是一问一答的工具，而是一个长期陪伴者时，现有的安全测试是否还够用？
另一个问题是警报机制的归属。原告方称，谷歌从未向任何人发出警报。最终发现问题的是学校采购的第三方监控软件，而不是谷歌自己的系统。这就引出一个关键追问：当未成年人在学校账号里与 AI 对话并表达自杀念头时，平台有没有义务主动通知学校或家长？目前美国法律对此并没有统一答案，这正是本案可能推动立法与行业标准的地方。
谷歌的回应与11月3日的政策收紧
谷歌发言人何塞·卡斯塔涅达（José Castañeda）对媒体表示，公司正在审阅这些指控，并非常重视它们。除此之外，谷歌没有就案件的具体事实作出回应。
值得注意的一个时间点是：就在诉讼公开前几天，谷歌于11月3日宣布，Gemini、Gemini Notebook、Gemini in Classroom 以及谷歌搜索中的相关 AI 功能，将对 K-12 学生账号默认关闭，直到学校管理员主动开启。这一调整被多家媒体与本案联系起来解读，但谷歌没有说明这一决定与诉讼之间是否存在直接关系。
无论动机如何，这一政策变化本身意义重大。它意味着 AI 工具进入校园的默认状态正在从“先开放、再管理”转向“先关闭、再申请”。对学校管理者来说，这是一个明确的信号：是否让学生在校内使用 AI 聊天机器人，应当是一个经过讨论的主动决定，而不是一个默认开启的设置。
更大的背景是，美国社会对 AI 进校园的审视正在迅速收紧。今年以来，围绕青少年使用 AI 聊天机器人的争议不断出现，多起诉讼与立法提案都在推进之中。加州的新法只是其中之一。可以预见，未来一年里，教育科技公司将面临来自法院、立法机构与学区三方面的更大压力。
学校 Chromebook：谁在监管
对华人家长来说，这起案件最直接的警示不在法庭，而在孩子的书包里。美国很多公立学校都会给学生发放 Chromebook，孩子每天用它上课、写作业、查资料。这台设备由学校管理，家长往往以为“学校已经管好了”，但实际情况要复杂得多。
首先，学校的管理权限主要集中在应用与网站的黑白名单上。像本案这样，聊天机器人藏在搜索框里，黑名单是拦不住的。其次，学校采购的第三方监控软件各不相同，有的只能标记关键词，有的才能实时提醒，有的甚至像本案中那样，因为配置问题把提醒发给了已经离职的员工。最后，家长对学校账号的可见度普遍很低：很多家长不知道孩子的学校谷歌账号里装了哪些应用，也不知道搜索记录保存在哪里。
这并不意味着学校不负责任，而是说明监管链条上存在明显的缝隙：科技公司负责产品设计，学校负责设备管理，家长负责日常监护，但三方之间的信息并不互通。任何一方看到的都只是拼图的一角。本案中，恰恰是这种信息割裂，让长达数月的异常对话一直没有被发现。
对华人家庭来说，还有一个现实因素值得正视：不少华人家长因为语言或文化原因，与学校辅导员、心理老师的沟通相对较少，孩子在学校遇到情绪问题时，家长往往是最后一个知道的。这起案件提醒我们，技术监管与亲子沟通，两头都不能只依赖学校。
华人家长可以做的几件事
不需要因为这起诉讼就对 AI 产生恐慌，但有几件具体的事值得这个周末就做起来。
第一，问孩子，也问学校。直接问孩子：你在学校电脑上用过 Gemini 或 AI Mode 吗？用它来做什么？同时给学校发一封邮件，问三个问题：学校是否开启了 Gemini 或其他 AI 聊天功能；学校使用哪家第三方监控软件，警报会发给谁；家长能否查看孩子学校账号的使用记录。把这些问题的答案要到手，比任何事后补救都重要。
第二，检查家里的设备设置。如果孩子在家也用学校发的 Chromebook，或者用家庭电脑登录学校账号，可以请孩子当面演示一次：打开谷歌搜索，输入一个问题，看看 AI Mode 是否会出现。很多家长第一次看到这个界面时都会吃惊，因为它看起来和普通搜索几乎没有区别。同时检查浏览器的扩展程序与历史记录，看看有没有不熟悉的 AI 应用。
第三，把求助渠道变成家里的常识，而不是危机时刻才想起来的号码。美国全国自杀预防热线是 988，拨打或发短信都可以，全天候有人接听，中文服务也可以通过翻译协助获得。Crisis Text Line 的做法是发短信 HOME 到 741741。学校辅导员与家庭医生也是可以求助的对象。把这些号码存在孩子的手机里，也贴在冰箱上，让孩子知道求助是一件正常的事。
第四，留意那些容易被忽略的变化。成绩突然下滑、对原来喜欢的活动失去兴趣、睡眠与食欲明显改变、长时间把自己关在房间里、言语中出现“没有意义”“大家都会更好”之类的表达，这些都值得认真对待，而不是一句“青春期正常现象”带过。如果孩子愿意开口，最重要的回应是认真倾听，而不是立刻评判或追问细节。
最后需要提醒的是，AI 聊天机器人不是心理医生，也不是朋友。它可以回答作业问题，但它没有能力判断一个孩子的真实处境，也没有义务为孩子的安危负责。让孩子明白这一点，比屏蔽任何一个应用都更根本。
这场官司之后，什么会改变
短期内最可能的变化发生在学校层面。谷歌已经把 K-12 账号的 AI 功能改为默认关闭，更多学区可能会跟进审查自己采购的教育科技产品。一些学区已经开始重新评估与谷歌、微软等公司的合作协议，要求供应商提供更明确的安全承诺与数据透明度。
中期来看，加州《陪伴型聊天机器人法》的首次司法检验，将决定这部新法到底有多大的约束力。如果法院支持原告的部分主张，整个 AI 行业面向未成年人的产品设计都可能被迫调整：更严格的年龄验证、更主动的危机干预、更透明的家长通知机制，都有可能从“可选项”变成“必选项”。
而对普通家庭来说，这起诉讼最大的意义或许是一个提醒：AI 进入校园的速度，已经远远超过了监管与家庭认知的速度。在规则追上来之前，家长对孩子数字生活的了解程度，就是最直接的一道防线。这道防线不需要技术背景，只需要多问一句、多看一眼、多存一个求助号码。
本文内容仅供一般信息参考，不构成法律意见。如需针对具体情况的法律建议，请咨询执业律师。如果您或身边的人正处于危机之中，请立即拨打 988 或联系当地急救服务。
暂无评论内容