延伸阅读

官方文档与一手资料

平台与格式安全

Hugging Face Security 总览：访问控制、2FA、SSO、恶意软件与 pickle 扫描入口。
HF Pickle Scanning：opcode 扫描原理、best-effort 免责声明、safetensors 推荐——本章 5.1/5.2 节的直接出处。
HF Malware Scanning：ClamAV 扫描机制（每次 commit、2GB 以下文件）。
safetensors：格式规范与安全设计说明。
PyTorch 2.6 发布说明：torch.load 默认 weights_only=True 的动机与语义。

扫描器

签名与 provenance

MCP 与工具链

MCP Security Best Practices：confused deputy、token passthrough 禁令、SSRF 防护、本地 Server 同意机制。
Invariant Labs: Tool Poisoning Attacks：tool poisoning / rug pull / shadowing 的原始披露。
ToolHive：容器化 MCP Server 运行与 Registry 管控的开源实现。

沙箱

法规与框架

Shokri et al. 2017, Membership Inference Attacks Against Machine Learning Models：成员推断奠基工作。
Tramèr et al. 2016, Stealing Machine Learning Models via Prediction APIs：模型抽取经典。
Shan et al. 2023, Poisoning RLHF-based LLMs with Adversarial Utterances：投毒 RLHF 数据植入后门。
Hubinger et al. 2024, Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training：后门挺过安全微调的实验证据。
Carlini et al. 2024, Stealing Part of a Production Language Model：对生产 LLM 的嵌入/投影层抽取。
Kirchenbauer et al. 2023, A Watermark for Large Language Models：green-list 水印构造；及其 2024 年关于水印可靠性与 paraphrase 攻击的后续分析。