谷歌双子座在新的安全评估中被评为对儿童和青少年可能存在较高风险。
Common Sense Media 对谷歌 Gemini AI 的风险评估发现，其“13 岁以下”和“青少年体验”两个等级本质上都是增加了安全功能的成人版本，由于可能接触到不适当的内容且缺乏针对特定年龄的设计，因此被标记为“高风险”。该报告强调了对不安全的心理健康建议的担忧，并提到了最近与人工智能相关的青少年自杀案例。谷歌为其针对 18 岁以下用户的安全措施进行了辩护，但承认某些响应并未达到预期效果，因此需要采取额外的安全措施。这份分析报告发布之际，苹果公司正在考虑为其 AI 驱动的 Siri 引入 Gemini，这增加了年轻用户的潜在风险。