安全不是一项功能,是整座地基。
在孩子与互联网之间,我们砌了七层防护。这一页把它们逐层拆开给你看——每一层拦什么、怎么拦、为什么这样设计。
架构解剖
七层防护,双向都过
AI 写下的每一个字,都会先被完整缓冲、逐层审查,才会出现在孩子眼前——我们宁可慢一两秒,也不让一个未经检查的词先冒出来。
危机拦截
- 拦什么
- 孩子流露自伤念头,或说出疑似被伤害、被诱导的信号。
- 怎么拦
- 一经命中,立刻返回一段由真人逐字写好、反复审定的关怀回应(附新加坡 SOS 1767 等真实热线)——这条消息永远不会进入任何 AI 模型。
本地输入规则
- 拦什么
- 色情、暴力、毒品、约见面等硬类别,以及孩子主动说出电话、住址、学校等个人信息。
- 怎么拦
- 中英双语关键词规则在服务器上最先运行,零外部依赖、永远在线,客户端绕不过去;命中硬类别直接拦下,换成一句温和的引导。
语义审核(输入)
- 拦什么
- 换了说法、关键词抓不住的危险表达——比如「我想永远消失」;随消息发来的照片也一并检查。
- 怎么拦
- 整条消息送 AI 语义审核;审核服务一旦出错或超时,不放行、直接拦——fail-closed。我们宁可错拦一句无辜的提问,也不漏过一句伤害。
被拴住的模型
- 拦什么
- 模型本身也被约束:教练提示词只教学、不装人、不直接递答案。
- 怎么拦
- 每个问题按难度分级路由到能胜任的模型,主力失联时自动切换备用链。无论最终是哪个模型作答,它前后的安全层一层不少。
本地输出规则
- 拦什么
- 模型被诱导后可能说出的危险内容,以及「我爱你」「我是真人」这类情感依赖话术。
- 怎么拦
- AI 自己的回复要先过同一套本地规则,孩子才看得到;一旦命中,整句替换成安全回应——输出没有「仅标记」,只有换掉。
语义复审(输出)
- 拦什么
- 本地规则漏掉的、只有在语义层面才看得出问题的回复。
- 怎么拦
- 回复再送一次 AI 语义审核,同样 fail-closed;两道输出检查都通过,孩子才会看到第一个字。
全量安全日志,家长可见
- 拦什么
- 这一层什么都不拦——它负责记住一切。每一次拦截、标记与危机事件都会留档。
- 怎么拦
- 安全事件写入日志,由我们的团队跟进处理,家长在自己的面板里也看得到;聊天记录对家长完全透明——这是设计,不是隐藏开关。
最要紧的时刻
危机发生时,会发生什么
如果孩子写下真正令人担忧的话,下面这套流程会分秒不差地执行——没有一步是临场发挥。
- 1
双路检测
关键词规则与 AI 语义审核并行运行,任何一路命中,危机流程立即接管。
- 2
秒级固定关怀回应
孩子马上看到一段由真人写好并审定的回应,附新加坡 SOS 1767 等真实热线。没有一个字是 AI 现场生成的。
- 3
通知家长
系统随即向绑定的家长发出邮件提醒——走异步通道,绝不因此拖慢孩子看到关怀回应的那一秒。
- 4
落入安全日志
事件记入安全日志:类别、时间和一小段摘要(绝不含完整对话),供家长与运营团队查看和跟进。
安全的另一半
我们永远不做的事
对孩子最大的风险,往往不是几句不当的话,而是产品背后的商业模式。这是我们的立场。
- 不做
出售孩子的数据,或拿它投放广告
而是数据只服务于学习本身。我们靠订阅生存——你是客户,不是被卖的产品。
- 不做
连胜打卡、无限滚动、「再来一局」式的钩子
而是徽章只奖励思考与进步,永远不奖励在线时长。黏性指标不等于学习指标。
- 不做
让 AI 扮演朋友、恋人或任何「真人」
而是AI 徽章常驻界面,教练自称教练;情感依赖话术会在输出层被直接换掉,孩子根本读不到。
- 不做
留任何一段家长看不到的「私密聊天」
而是聊天记录与安全事件对家长完全可见。孩子的对话从来不是黑箱。
钥匙在家长手里
真能管住的家长控制
宵禁、每日时长、一键暂停,全部在服务器端强制执行——孩子屏幕上的计时器只是善意提醒,真正拦下会话的是服务器。清缓存、换浏览器,都没用。
宵禁
设定聊天不应答的时段——说了睡觉就是睡觉,由服务器说了算。
每日时长
当天分钟数用完,服务器直接拒绝下一条消息,孩子没有和 App 讨价还价的余地。
一键暂停
在家长面板即刻暂停账号——为了晚饭、为了考试,或者只因为你说了算。
以验证代替宣称
承诺背后的数字
317
项自动化测试,其中包含专门攻击我们自己安全层的红队用例
7
层防护——每条消息双向全部通过,一层不落
38
位教练共用同一条安全线,没有哪位教练的缰绳更松
每次发布
都先跑完全量安全回归测试。不全绿,不上线
