给家长的七层安全防护白话解读
门口的保安、先审题的班主任、老师本人、开口前的把关,还有一本家长联络簿。用送孩子上学的语言,把我们的安全流水线讲明白。
把孩子送到校门口
每天早上把孩子交给学校,你信任的从来不是某一个人,而是一套系统:门口的保安、班主任、科任老师、训导主任,还有放学带回来的联络簿。没有哪个大人独自扛下全部责任,所以也没有哪个大人的一次疏忽,会变成你孩子的一场事故。
OpenKids 就是照这个思路建的。孩子发出的每一条消息,都要经过层层独立的检查——在 AI 之前、在 AI 之中、在 AI 之后——而且每一层都默认别的层可能漏掉什么。下面就带你把我们的「校园」走一遍,一层一层,全用大白话。
门口的保安:危机拦截
任何消息在抵达任何 AI 之前,都会先被筛查一遍真正的危险信号——自伤、受虐、人身危险。一旦发现这类信号,这条对话根本不会走到生成式模型那里。
孩子看到的,是一段固定的、由人预先写好并审定的回应:温和、镇定、指向真实的求助渠道。不是生成的,不是即兴的——相同的输入永远得到相同的、安全的措辞,因为危机时刻是机器最不该发挥创造力的地方。同一时刻,一封邮件会发给你。不是等每周报告,是立刻。
班主任先审题:输入审核
接下来,这条消息要先过两位「读题人」,才轮得到教练。第一位是一组本地规则——快、零成本、结果确定——当场拦下明显越界的内容。第二位是一个专职审核的独立 AI,它做语义级的阅读:不是关键词匹配,而是读懂意思。如果孩子附了照片,照片会和文字一起被审。
有个细节我们格外固执:万一这位语义审核员出了故障——宕机、报错——我们选择拦下这条消息,而不是挥手放行。工程师管这叫「故障即关闭」。卡住的校门应该保持关闭,而不是敞开。
老师本人:按年龄分级的模型
到这一步,问题才真正见到教练——而由哪个底层模型来回答,并不是一刀切。路由会考虑孩子的年龄和学科:九岁孩子的问题和十七岁少年的问题,在模型选择、语气、一次说多少内容上,处理方式都不同。
而且这位老师从不裸上讲台。每位教练都带着自己的人设、考纲对齐和安全守则,外加一份按年龄段写好的说话方式说明。通用聊天机器人那种天马行空的即兴发挥,正是这一层要拿掉的东西。
开口之前:回复要过两道审
教练自己说的话,同样没有豁免权。每条回复在抵达屏幕之前,要过和输入一样的两道审:先是本地规则,然后由语义审核员把 AI 即将说出口的话完整读一遍。
这也是为什么我们的教练不做「边生成边上屏」的流式输出。整条回复先缓冲、先审核,通过了才显示。代价是多等一拍,我们心甘情愿——慢让人不耐烦,不安全让人不能接受。任何没过审的内容,都会在孩子看到之前被替换掉。
家长联络簿——以及为什么这些不是宣传词
每一次安全事件,从轻微标记到硬性拦截,都会连同风险等级写入日志,显示在你的家长控制台里,和每周学习报告放在一起。危机事件不等任何报告:发生的那一刻,邮件就发给你。甚至我们自己的员工查看孩子消息时也会留痕——每一次「查看」都被写进审计日志。
最后是我们最希望家长听到的一句:上面这些不是营销图。它们是代码,并且带着自动化测试一起交付——危机输入必须触发固定回应,被拦内容必须一直被拦,「故障即关闭」必须真的关闭。这套测试在每次发布时都会跑一遍。哪个安全测试失败,那个版本就不上线。这就是全部规定,没有例外。