消息详情

「读懂AI黑箱」大模型答得漂亮，不代表它用的方法干净。行为评测只盯输出，测不出模型是不是靠一条危险回路在跑——安全微调也未必拔得掉后门。机制可解释性想往里看：神经元常一个节点挂好几个语义，得靠稀疏自编码器把稠密激活拆成少量可读特征，再定位回路、做消融和激活替换，用因果干预问“拿掉它，行为还变不变”。但能命名特征，不证明它稳定、唯一、真在起作用。一篇新综述把解释门槛收成五条：归因忠实、覆盖完整、跨种子稳定、因果有效、人能拿来诊断。可解释性现在能做定向监测、知识编辑、行为引导，却给不了“模型一定安全”的保证。找不到欺骗回路，不能反推它没有欺骗机制。黑箱不是被“看懂”就解开了，解释只是多层防护里的一路信号。