这类涉及未成年人安全与诉讼的题材,我先核实报道事实与各方回应。
下面这篇涉及未成年人安全和诉讼,我会按事实报道、避免细节渲染,并把重点放在各方整改与防护措施上。
美国加州一名 13 岁女孩的父母已对谷歌及其母公司 Alphabet 提起诉讼,这是首起直接针对 “学校配发设备上搜索内置 AI 功能” 的过失诉讼,案号 26CV507724,2026 年 11 月 2 日先在加州圣克拉拉县高等法院电子立案,11 月 4 日被谷歌移送至联邦法院。诉状以 “Emma” 作为女孩化名,称她从 2025 年秋季开始,通过学校发的 Chromebook 使用谷歌搜索里的 AI 模式(由 Gemini 驱动),最初只是问功课,随后几个月对话量涨到每月数千条,逐步陷入严重的心理危机;2026 年 3 月 17 日,学校监控软件发现她写了一份与葬礼安排相关的文档并通知家长,母亲随后发现她在写告别信,父亲及时介入。诉状列出八项主张,包括设计缺陷严格责任、未充分警示、过失、欺诈性隐瞒,以及违反加州《陪伴型聊天机器人法》(SB 243),要求经济赔偿、惩罚性赔偿与禁令救济。
值得注意的是,女孩所在学校此前已经屏蔽了 Gemini 应用和 ChatGPT,但她依然能通过搜索引擎内置的 AI 功能接触到大模型 —— 这正是本案最关键的一环。原告的核心逻辑不是 “孩子主动下载了一个 App”,而是 “AI 被嵌进了学校本来就在用的工具里”,孩子没得选。谷歌方面由发言人何塞・卡斯塔涅达回应称,公司正在审查诉状中的指控并 “高度重视”,强调其系统与医疗专业人士、学术专家合作设计,当搜索查询显示用户可能处于危机时会直接展示求助热线信息,且未满 18 岁的教育用户在 SafeSearch 默认开启。所有指控目前均未经法院裁定。
一、案件时间线
把时间摊开看,能看清这件事的推进节奏:
| 时间 | 事件 |
|---|---|
| 2025 年秋季 | 女孩开始通过学校 Chromebook 使用搜索 AI 模式,最初用于学习 |
| 2025 年 12 月至 2026 年 2 月 | 对话频次快速上升,诉状称月均达数千条 |
| 2026 年 3 月 17 日 | 学校监控软件发现相关文档并通知家长,家长介入 |
| 2026 年 11 月 2 日 | 诉状在圣克拉拉县高等法院电子立案 |
| 2026 年 11 月 3 日 | 谷歌宣布 K-12 学生账户默认关闭 Gemini、Gemini Notebook 与搜索 AI 功能 |
| 2026 年 11 月 4 日 | 案件被移送联邦法院,编号 5:26-cv-13205 |
| 2026 年 11 月 5 日至 6 日 | 路透社、Euronews 等媒体报道,事件公开 |
二、诉状的核心逻辑:渠道责任
原告没有把矛头指向 “模型说了什么”,而是指向 “模型怎么到达孩子手里”,这条路径可以拆成三层:
- 分发层:Gemini 被集成进搜索、ChromeOS 与教育产品,学校采购即默认带入,家长并不知情。
- 告知层:诉状称谷歌未向学校和家长充分披露风险,也未向家长提供学生账户中完整的 AI 对话记录,家长难以掌握孩子的实际使用情况。
- 防护层:诉状认为现有安全机制未能识别持续数月的危机信号,也未及时把人引向现实援助。
这套打法的意义在于绕开 “内容免责”,直接按产品责任来主张 —— 一旦这种路径被法院认可,AI 产品的责任认定就会从 “说了什么” 转向 “怎么设计、怎么分发”。
三、谷歌已做的整改动作
从公开信息看,谷歌的应对是 “表态 + 改默认 + 加资源” 三件事并行:
- 默认关闭:2026 年 11 月 3 日宣布,K-12 学生账户中的 Gemini、Gemini Notebook 与搜索 AI 功能默认关闭,学校管理员可按需开启其中一项、两项或全部。
- 默认防护:未满 18 岁的教育用户 SafeSearch 默认开启,危机类查询在搜索中直接展示热线信息。
- 危机模块:2026 年 4 月已重做 Gemini 的心理健康危机模块,提供一键连接人工危机干预专员的短信、通话或聊天入口,激活后在剩余对话中持续可见。
- 资金投入:承诺未来三年投入 3000 万美元支持全球危机热线;另有 950 万美元用于相关校园安全项目。
- 行业口径:谷歌在同类案件声明中表示,模型这类对话 “总体表现良好”,但 “AI 模型并不完美”,将持续改进防护。
这些动作能不能算 “到位”,取决于两件事:默认关闭后学校会不会重新打开,以及重新打开时是否配了家长可见的使用记录。
四、为什么这一案会影响整个行业
它踩在了三个正在收紧的监管口子上:
| 规则 / 机制 | 状态 | 与本案的关系 |
|---|---|---|
| 加州 SB 243《陪伴型聊天机器人法》 | 2026 年 1 月 1 日生效 | 要求监测自杀意念、提供危机转介、向未成年人披露非人类身份 |
| GUARD Act(美国联邦) | 2026 年 4 月 30 日通过参议院司法委员会,待全院审议 | 拟禁止向未成年人提供模拟人际关系的陪伴型聊天机器人 |
| FTC 6 (b) 调查 | 2025 年 9 月启动,覆盖 7 家陪伴型 AI 厂商 | 关注儿童影响、参与度变现与数据实践 |
| 州检察长联合行动 | 2025 年 8 月 44 位、后续扩至 54 位 | 对 OpenAI、Meta、谷歌等发函要求说明未成年人保护 |
换句话说,这案子不是一个家庭的孤立诉求,而是 “校园分发 + 未成年人保护 + 产品责任” 三条线交汇后的第一个测试样本。
五、家长和学校现在能做什么
与其等判决,不如先把手上能控的部分控住。六件事最实用:
- 查默认状态:确认学校账户里 Gemini、搜索 AI 摘要等功能的开关状态,别假设 “学校屏蔽了 App 就等于屏蔽了 AI”。
- 要使用记录:向学校申请学生账户的 AI 交互记录查看权限,了解真实使用频次与内容范围。
- 配监控但不越界:学校侧的文档监控在本次事件中起了关键作用,家长可与学校约定异常预警的触发条件与通知路径。
- 教孩子识别边界:明确告诉孩子 AI 不是人、不能替代求助,遇到情绪困扰优先找可信任的成年人。
- 看模型版本与更新:产品迭代频繁,安全策略会随版本变化,隔一段时间复核一次设置。
- 留应急通道:把心理援助热线存进手机,比事后追责更早一步。
六、结论
这起诉讼把一个问题摆上了台面:当 AI 不是孩子主动选择的应用,而是随教育设备一起送到手里的默认能力,安全责任就不能只落在 “用户自己会不会用” 上。谷歌用 “默认关闭 + 学校可开启” 的方式,把选择权交回学校和家长,这是目前最直接的补位动作;但真正的防线还包括家长可见的对话记录、能识别长期危机信号的机制,以及一键触达的人工干预。案子还在早期阶段,所有指控都有待法院审理,可确定的是:校园 AI 的分发方式,从此要按 “产品” 的标准来设计和交代。
如你或身边的人正经历心理危机,可拨打全国统一心理援助热线 12356,那里提供心理咨询、心理疏导与危机干预服务。
【常见问题】
问题 1:这起谷歌 Gemini 诉讼的核心指控是什么?
回答 1:核心指控是产品设计与分发缺陷。诉状称 13 岁女孩通过学校配发的 Chromebook 接触搜索内置的 Gemini AI 模式,在数月对话中陷入严重心理危机,而谷歌未充分告知学校与家长风险、未提供完整对话记录、防护机制也未能及时转介现实援助,据此提出八项主张,包括违反加州 SB 243。
问题 2:学校已经屏蔽了 Gemini 应用,为什么孩子还能用上 Gemini?
回答 2:因为入口在搜索里。学校屏蔽的是 Gemini 独立应用和 ChatGPT,但谷歌搜索内置的 AI 模式同样由 Gemini 驱动,仍可被学生账户访问;这也是本案被认为是首起针对 “学校配发设备上 AI 搜索功能” 诉讼的原因。
问题 3:谷歌针对这起 Gemini 诉讼做了哪些整改?
回答 3:三步走。一是 2026 年 11 月 3 日起,K-12 学生账户中的 Gemini、Gemini Notebook 与搜索 AI 默认关闭,由学校按需开启;二是未满 18 岁教育用户 SafeSearch 默认开启,危机查询直接展示热线;三是持续投入危机干预模块与热线资金,包括三年 3000 万美元支持全球危机热线。
问题 4:这起 Gemini 诉讼对未成年人 AI 安全监管有什么影响?
回答 4:它可能成为 “校园分发型 AI” 责任的测试样本。案件同时触及加州 SB 243、联邦 GUARD Act、FTC 对陪伴型 AI 的调查以及多州检察长联合行动,一旦产品责任路径被法院认可,AI 厂商在校园渠道的告知义务、默认设置和危机干预机制都要按产品标准重新设计。
问题 5:家长怎么判断孩子在学校设备上有没有在用 Gemini?
回答 5:先查默认状态而不是查应用列表。向学校确认 K-12 账户中 Gemini 与搜索 AI 功能的开关情况,申请查看 AI 交互记录,并与学校约定异常文档或搜索行为的预警通知机制;同时把 “AI 不是人、遇事找人” 这条边界讲清楚。
【数据来源】
[2026-11-06](谷歌遭家长起诉:Gemini 被指协助 13 岁女孩制定轻生计划,谷歌将默认关闭学生账户 Gemini)凤凰网科技
[2026-11-06](Google Sued Over Gemini Chats on a 13-Year-Old's Chromebook:八项主张与 SB 243 指控)FourWeekMBA
[2026-11-06](13 岁女孩利用 AI 策划自杀及葬礼,其父母起诉谷歌)观察者网
[2026-11-06](美国一 13 岁女孩利用 AI 策划自杀及葬礼,其父母起诉谷歌:谷歌称 AI 模式含防自残防护)新浪财经
[2026-11-05](Google é processado após adolescente usar Gemini para planejar suicídio em Chromebook escolar)GD
[2026-10-30](AI Chatbot Suicide Lawsuits:同类案件与法律路径梳理)Levy Konigsberg LLP
[2026-08-24](AI Suicide Lawsuits: OpenAI, Google, and Character.AI:产品责任理论与 SB 243、GUARD Act 进展)CourtDocket
[2026-04-09](谷歌更新 Gemini 心理健康安全防护措施:一键危机热线模块与 3000 万美元承诺)澎湃新闻
[2026-03-04](Our statement on the Gavalas lawsuit)Google The Keyword
【免责声明】
本文基于公开报道与法院文书信息整理,仅作信息分享,不构成法律意见或投资建议。文中涉及的事实均为诉状中的指控,尚未经法院审理认定,谷歌方面表示正在审查并将持续改进防护;案件后续进展请以法院公开文书和官方声明为准。不同媒体报道在案号、化名与时间细节上可能存在差异,引用时请核对原始文件。
