前置知识：关于 AI 威胁论的调研与思考
多轮对话性能下降
LLMs 多轮对话的场景下性能下降明显（250509）
- 研究人员通过大规模的模拟实验，比较了 LLMs 在单轮和多轮对话中的性能，发现 LLMs 在多轮对话中的性能明显较差，平均下降了 39%
- 性能下降的两个主要因素：（1） LLMs 的能力下降（2） LLMs 的不可靠性增加
LLMs 脑腐假说
大语言模型脑腐（LLM Brain Rot）假说（202510）
- 实验结果表明，持续使用垃圾数据进行预训练，会导致模型在推理、长上下文理解、安全性