ChatGPT 对孩子安全吗？一个诚实的回答

诚实的回答

ChatGPT 对孩子安全吗？诚实的回答是：它是一件为成年人打造的出色工具，孩子在用它，就是孩子在用一件大人的工具——有时没事，有时有事，而且无论哪种，都没有人在看着。我们靠做儿童 AI 吃饭，在这个问题上毫不中立，请带着这个前提读下去。但我们的论点并不需要 ChatGPT 是坏的，只需要它是它自己声明的那个东西。

通用助手是为「通用用户」设计的——一个能评估回复质量、能对失误耸耸肩、能为自己的用法负责的人。这个描述符合大多数成年人，不符合一个九岁的孩子。这些工具的制造者，自己也不会说它符合。

为成年人而造，白纸黑字

先看白纸黑字。通用聊天机器人的服务条款设有年龄门槛，年纪小的青少年也只应在家长同意下使用。这不是法律细节，这是制造者在明明白白地告诉你：这个产品是给谁用的。

再看默认值。语气、话题、节奏，以及一个隐含的假设——屏幕前的人分得清「说得笃定」和「说得正确」——全都为成年人调校，因为用户本来就是成年人。而当孩子照用不误时，家长手里没有任何窗口：不知道聊了什么，看不到对话，出了状况也不会有人通知你。产品并没有对你隐瞒什么，它只是从来没被造来给你看——因为「让家长看见」从来不在需求清单上。

乐于助人，恰恰是问题

最隐蔽的错位，和有害内容毫无关系。它在于：通用助手的优化目标是替你完成任务。成年人让它起草邮件，这叫产品在正常工作；孩子把作业贴进去，这也叫产品在正常工作——只是孩子什么都没学到，而且是以工业速度什么都没学到。

认知科学把缺掉的那味药叫「生成效应」：理解来自产出答案，不来自接收答案。一个把「有用」定义为「做完」的助手，会递给孩子一页干干净净的作业，然后悄悄把学习一并带走。整个故事里没有反派，只有一个为别人设计的默认值。

儿童专用系统，改了什么

做 OpenKids 的时候，我们不是拿一个聊天机器人来加规矩，而是从一个问题出发：如果用户是孩子，哪些事必须为真？答案变成了七层安全流水线——AI 之前、之中、之后的层层独立检查，每一层都默认其他层可能漏掉什么。

家长拿到的，是通用工具从没被要求提供的东西：每周学习报告，以及对孩子对话的透明可见。这不是为监视而监视——学校给你的就是这种可见性，我们照的是同一种精神。

至于那个「乐于助人」的默认值，直接被整个换掉。每位教练都在教学契约下工作：先问孩子试过什么，一起只走一步，把下一步交回去。完整解法要靠真实的尝试来挣，从不发放。连激励机制也是按孩子重造的——没有连胜，没有签到奖励；徽章标记的是掌握，不是盯着屏幕的时长。

这是合身问题，不是善恶问题

以上没有一个字是在指控通用 AI 公司做错了什么。这些模型背后的工程了不起，而一件为所有人造的工具，自然先服务它的主流用户。高速公路是伟大的造物，但它仍然不是学校的走廊——这不是高速公路的错。

所以，给你一个可以直接带走的做法。在任何 AI 和你的孩子独处之前，问它三个问题：这是为谁造的——制造者说是给孩子的吗，还是条款里写着相反的话？孩子向它要答案的时候，会发生什么？还有，我这个做家长的，到底能看见什么？任何为孩子而造的产品，这三题都该答得干脆利落。包括我们——尤其是我们。