并承诺在跨越这些绊线时实施风险缓解的具体升级。6 这些“如果-那么”承诺的案例在上一篇文章中概述；简而言之，随着人工智能能力的快速发展，它们提供了一种提前规划和优先考虑重要风险缓解措施的方法，而不会不必要地减缓新技术的发展。到目前为止，大多数关于绊线的具体提案都来自 2023 年底至 2024 年中期发布的自愿性公司政策和框架，其中大多数明确标记为早期、探索性或初步。7 至关重要的是，在所有这些情况下，绊线提案都没有附带对其制定方法的解释。需要明确的是，这并不是对相关公司的批评。
已发布的政策和框架是雄心勃勃的文件，呼吁签署方在多个方面开展大量工作——不仅仅是定义绊线，而且 (a) 建立实用、可运行的 AI 评估来测试绊线；(b) 定义如果越过绊线所需的风险缓解措施；(c) 定义流程（），以确 荷兰 whatsapp 数据 保测试运行频率足够高、结果得到合理解释、采取必要的响应行动等。如果公司等到彻底研究完这些事情后再采用或发布其政策和框架，他们可能要等上好几年——在此期间，人工智能能力可能会迅速发展，预防相关风险可能会变得更加困难，甚至不可能。换句话说，坚持过高的彻底性标准可能会在一定程度上违背这些政策和框架的目的。
公司试图通过快速勾勒框架来表明他们对风险预防的认真态度，即使还有很多工作要做——从某种意义上说，这是在飞行的同时建造飞机。本文旨在朝着更彻底地讨论绊线迈出一步，但仅仅是一步。它提出了一些具体的绊线并概述了基本推理，但没有为每个关键主张提供广泛的证据基础，也没有解决对其提议的重大可能反对意见。为什么要采取这种方法？希望是：本文有助于讨论应该使用什么必要条件来创建绊线，以及绊线应该是什么。随着时间的推移，在咨询广泛而多样的专家（关于一般量化和风险建模、关于网络操作和武器生产等特定相关领域等）后，我们会得出更窄、更深入的分析。