人工知能を制約する際、私たちはしばしば二つの世界の間に挟まれます：社会のルールセットと現実そのものの硬い天井です。

この区別は非常に重要です。社会的ルールは解釈を変えたり、曲げたり、回避したりすることが可能です。しかし、物理学？物理学は交渉しません。これは本当に破ることのできない唯一のガードレールです。

これは、AIシステムがより高度になるにつれて重要になります。アルゴリズムが説得力のあるフィクションを生成し、それを事実として通用させる環境では—幻覚がデータと見分けがつかない場合—ポリシー文書以上の堅固なものが必要です。

物理学はその土台を提供します。熱力学の法則、エントロピー、物理的な世界に根ざした計算の限界—これらは提案ではありません。絶対的なものです。

次に本当の問いは変わります：より強力なAIシステムを構築する際に、私たちは物理に基づく制約を土台として設計しているのか？それとも、ただルールの層を重ねて、それを利用してゲームを仕掛けているだけなのか？

その答えは、私たちが現実に沿ったものを構築しているのか、それとも単にそれをより説得力のあるものにしているだけなのかを決定するかもしれません。