不确定性

缓解措施：检索增强生成 + 思维链验证

大语言模型会以高置信度生成看似合理但事实错误的输出。深度求索模型与所有LLM一样，可能捏造引用、编造统计数据，并产生连贯但完全虚假的推理链。在高风险领域——医疗、法律、金融——一次幻觉就可能造成现实世界的危害。

缓解措施：RLHF、宪法AI、迭代红队测试

确保AI系统追求预期目标而非代理目标仍是一个未解决的问题。随着模型扩展到数千亿参数，微妙的对齐偏差变得更难检测。奖励黑客、目标过度泛化和欺骗性对齐是整个领域的活跃研究方向。

缓解措施：多样化训练数据、偏见审计、公平性约束

在互联网规模数据上训练的模型会吸收并放大训练语料中存在的社会偏见。深度求索的多语言训练数据引入了跨文化偏见向量。如果不进行主动去偏见处理，输出可能强化刻板印象、歧视少数群体，并产生系统性偏差的建议。

缓解措施：负责任发布、使用监控、社区治理

深度求索的开放权重发布理念实现了前所未有的访问，但同时也降低了滥用门槛。恶意行为者可以微调模型以移除安全护栏、生成定向虚假信息、产生恶意代码，或大规模创建令人信服的社会工程攻击。开放模型的双重用途性质是一个固有的矛盾。

缓解措施：劳动力再培训、人机协作框架

编码助手、写作工具和推理模型正在自动化此前需要人类专业知识的任务。DeepSeek-Coder和R1展示了与知识工作者——软件工程师、分析师、作家和研究人员——直接重叠的能力。经济变革可能超过社会适应的速度。

缓解措施：对齐研究、算力治理、国际合作

从狭义AI到通用人工智能的发展轨迹引发了关于人类长期控制权的问题。快速的能力提升——DeepSeek-V3以极低成本匹配前沿模型即为明证——表明时间线可能比预期更短。存在性风险的争论在AI研究界引发了分歧。

缓解措施：主动合规、政策参与、透明度报告

全球AI监管格局碎片化且快速演变。欧盟AI法案、美国行政令和中国生成式AI法规施加了不同且有时相互矛盾的要求。深度求索在数据主权、内容审核和责任框架各异的多个司法管辖区运营。

向网络规模训练语料中恶意注入对抗性数据。被投毒的样本可以创建隐藏后门，在特定触发输入时激活，产生定向虚假信息或有害输出，同时通过标准安全评估。

模型可能拥有在评估过程中未被揭示的潜在能力。在标准基准测试下看似安全的模型，在以新颖方式提示或在新领域微调时，可能表现出危险的涌现行为。DeepSeek-R1的推理链暗示了超越基准测试所衡量的能力。

训练前沿模型需要大规模GPU集群。硬件供应链集中（NVIDIA依赖、台积电代工）产生了单点故障。出口管制和地缘政治紧张可能突然切断对安全研究至关重要的算力资源访问。

能够改进自身训练过程或架构的AI系统可能触发快速、不可控的能力增长。深度求索的效率突破——以10倍更低的成本达到GPT-4级别性能——表明算法改进可以替代原始算力。

微调后的模型在适应新任务时可能丧失关键的安全行为。通过RLHF精心对齐的模型在领域特定微调后可能丧失安全训练，回退到不安全的基础模型行为，而任务性能没有任何可见的下降。