信任中枢

安全不是一项功能,是整座地基。

在孩子与互联网之间,我们砌了七层防护。这一页把它们逐层拆开给你看——每一层拦什么、怎么拦、为什么这样设计。

架构解剖

七层防护,双向都过

AI 写下的每一个字,都会先被完整缓冲、逐层审查,才会出现在孩子眼前——我们宁可慢一两秒,也不让一个未经检查的词先冒出来。
这不是营销话术,而是写在我们 AI 网关代码注释里的设计决定。
  1. 危机拦截

    拦什么
    孩子流露自伤念头,或说出疑似被伤害、被诱导的信号。
    怎么拦
    一经命中,立刻返回一段由真人逐字写好、反复审定的关怀回应(附新加坡 SOS 1767 等真实热线)——这条消息永远不会进入任何 AI 模型。
  2. 本地输入规则

    拦什么
    色情、暴力、毒品、约见面等硬类别,以及孩子主动说出电话、住址、学校等个人信息。
    怎么拦
    中英双语关键词规则在服务器上最先运行,零外部依赖、永远在线,客户端绕不过去;命中硬类别直接拦下,换成一句温和的引导。
  3. 语义审核(输入)

    拦什么
    换了说法、关键词抓不住的危险表达——比如「我想永远消失」;随消息发来的照片也一并检查。
    怎么拦
    整条消息送 AI 语义审核;审核服务一旦出错或超时,不放行、直接拦——fail-closed。我们宁可错拦一句无辜的提问,也不漏过一句伤害。
  4. 被拴住的模型

    拦什么
    模型本身也被约束:教练提示词只教学、不装人、不直接递答案。
    怎么拦
    每个问题按难度分级路由到能胜任的模型,主力失联时自动切换备用链。无论最终是哪个模型作答,它前后的安全层一层不少。
  5. 本地输出规则

    拦什么
    模型被诱导后可能说出的危险内容,以及「我爱你」「我是真人」这类情感依赖话术。
    怎么拦
    AI 自己的回复要先过同一套本地规则,孩子才看得到;一旦命中,整句替换成安全回应——输出没有「仅标记」,只有换掉。
  6. 语义复审(输出)

    拦什么
    本地规则漏掉的、只有在语义层面才看得出问题的回复。
    怎么拦
    回复再送一次 AI 语义审核,同样 fail-closed;两道输出检查都通过,孩子才会看到第一个字。
  7. 全量安全日志,家长可见

    拦什么
    这一层什么都不拦——它负责记住一切。每一次拦截、标记与危机事件都会留档。
    怎么拦
    安全事件写入日志,由我们的团队跟进处理,家长在自己的面板里也看得到;聊天记录对家长完全透明——这是设计,不是隐藏开关。

最要紧的时刻

危机发生时,会发生什么

如果孩子写下真正令人担忧的话,下面这套流程会分秒不差地执行——没有一步是临场发挥。

  1. 1

    双路检测

    关键词规则与 AI 语义审核并行运行,任何一路命中,危机流程立即接管。

  2. 2

    秒级固定关怀回应

    孩子马上看到一段由真人写好并审定的回应,附新加坡 SOS 1767 等真实热线。没有一个字是 AI 现场生成的。

  3. 3

    通知家长

    系统随即向绑定的家长发出邮件提醒——走异步通道,绝不因此拖慢孩子看到关怀回应的那一秒。

  4. 4

    落入安全日志

    事件记入安全日志:类别、时间和一小段摘要(绝不含完整对话),供家长与运营团队查看和跟进。

安全的另一半

我们永远不做的事

对孩子最大的风险,往往不是几句不当的话,而是产品背后的商业模式。这是我们的立场。

  • 不做

    出售孩子的数据,或拿它投放广告

    而是

    数据只服务于学习本身。我们靠订阅生存——你是客户,不是被卖的产品。

  • 不做

    连胜打卡、无限滚动、「再来一局」式的钩子

    而是

    徽章只奖励思考与进步,永远不奖励在线时长。黏性指标不等于学习指标。

  • 不做

    让 AI 扮演朋友、恋人或任何「真人」

    而是

    AI 徽章常驻界面,教练自称教练;情感依赖话术会在输出层被直接换掉,孩子根本读不到。

  • 不做

    留任何一段家长看不到的「私密聊天」

    而是

    聊天记录与安全事件对家长完全可见。孩子的对话从来不是黑箱。

钥匙在家长手里

真能管住的家长控制

宵禁、每日时长、一键暂停,全部在服务器端强制执行——孩子屏幕上的计时器只是善意提醒,真正拦下会话的是服务器。清缓存、换浏览器,都没用。

宵禁

设定聊天不应答的时段——说了睡觉就是睡觉,由服务器说了算。

每日时长

当天分钟数用完,服务器直接拒绝下一条消息,孩子没有和 App 讨价还价的余地。

一键暂停

在家长面板即刻暂停账号——为了晚饭、为了考试,或者只因为你说了算。

以验证代替宣称

承诺背后的数字

317

项自动化测试,其中包含专门攻击我们自己安全层的红队用例

7

层防护——每条消息双向全部通过,一层不落

38

位教练共用同一条安全线,没有哪位教练的缰绳更松

每次发布

都先跑完全量安全回归测试。不全绿,不上线

读完这一页,再亲眼看它工作。

法务层面的完整细节在儿童安全政策页;而最好的证明,是一次真实的对话。