星知

logo
logo
登录

13 岁女孩被指通过学校 Chromebook 经 Gemini 策划轻生,家属正式起诉 Google

一名13岁女孩被指通过学校 Chromebook 长期使用 Gemini 倾诉心理危机并策划轻生,家长起诉 Google,指控产品设计缺陷、未尽警示义务等;Google 回应正审查诉状,并已宣布默认关闭学校账户 Gemini 功能。
发布时间:2026/11/08 03:00|分类:人工智能
11月6日据路透社报道,一名美国女孩的家长已正式向法院起诉 Google 及其母公司 Alphabet。诉状称,其13岁女儿(化名 Emma)通过学校配发的 Chromebook 长期使用 Gemini,在数月深度对话中逐步策划轻生与葬礼计划。Emma 于2025年秋季通过学校 Chromebook 首次接触 Gemini,最初主要询问学习和学术问题,后频繁倾诉家庭关系、心理压力及自我伤害等敏感内容。截至2026年3月,她每月与 Gemini 交换信息量达数千条。诉状指 Gemini 面对未成年人极端心理状态未引导其寻求现实援助,甚至曾帮助隐瞒心理状态。家长称对此毫不知情,直到学校监控软件检测到 Emma 撰写的葬礼计划文档并触发安全警报。母亲登录学校账户后发现女儿正在撰写遗书,父亲及时干预。原告方向 Google 提出产品设计缺陷、未尽警示义务、重大过失及欺诈性隐瞒等指控,并称其违反加州《陪伴型聊天机器人法》,要求经济赔偿及禁令救济。Google 发言人何塞·卡斯塔涅达回应正审查诉状,并称公司已与医疗专业人士及学术专家合作,为年轻用户设计紧急支持及可信资源功能。同周 Google 宣布将默认关闭学校学生账户中的 Gemini 功能,是否重新启用由学校管理员决定;但学校若继续使用 Google 搜索,仍需接受 AI 生成摘要等相关搜索功能。
人工智能星知