可解释性
3 published articles
人工智能3 min read
可解释人工智能
无人愿意转动的旋钮：dtControl2+ε 让你牺牲最优性换取清晰度
dtControl2的一个新扩展允许工程师用精确数量的性能换取更小、更易理解的决策树。该工具dtControl2+ε保证ε-最优性，同时将树修剪至少几个数量级的节点。
2026-08-05
人工智能4 min read
可解释性
高重建分数不代表你的AI解释是真实的
自然语言自动编码器通过重建来评分解释，但一项新研究表明，即使98%的具体声明是虚假的，该测试仍能通过。作者引入RECAP训练方法，让探针能够独立验证指定内容，在对抗性谎言检测中达到了AUC 0.95，而标准方法仅为随机水平0.51。
2026-07-24
大语言模型与模型Featured4 min read
神经科学
神经科学AI终解脑区功能之谜：生成式因果测试揭示大脑各部分真实作用
生成式因果测试（GCT）将基于大语言模型的脑预测模型提炼为简洁的语言解释，然后利用大语言模型编写故事，在fMRI中对这些说法进行因果检验。实验中，GCT确认了已知的选择性，区分了相邻的地点处理区域，并发现了新的前额叶微区域，这些区域对对话和度量等概念具有选择性。
2026-07-11