Khi nói đến việc hạn chế trí tuệ nhân tạo, chúng ta thường bị mắc kẹt giữa hai thế giới: bộ quy tắc của xã hội và giới hạn cứng của chính thực tại.

Sự phân biệt này rất quan trọng. Các quy tắc xã hội có thể được diễn giải lại, uốn cong hoặc làm việc quanh chúng. Nhưng vật lý? Vật lý không thương lượng. Đó là hàng rào chắn duy nhất thực sự không thể phá vỡ.

Điều này trở nên cực kỳ quan trọng khi các hệ thống AI ngày càng tinh vi hơn. Trong một môi trường nơi các thuật toán có thể tạo ra những câu chuyện hư cấu thuyết phục và giả vờ như thể đó là sự thật—nơi những ảo giác trông giống hệt dữ liệu—chúng ta cần thứ gì đó vững chắc hơn các tài liệu chính sách.

Vật lý cung cấp nền tảng đó. Các định luật nhiệt động lực học, entropy, giới hạn tính toán dựa trên thế giới vật chất—chúng không phải là đề xuất. Chúng là tuyệt đối.

Câu hỏi thực sự sau đó chuyển sang: khi chúng ta xây dựng các hệ thống AI mạnh mẽ hơn, liệu chúng ta có đang thiết kế chúng dựa trên các giới hạn dựa trên vật lý làm nền tảng không? Hay chúng ta chỉ dựa vào từng lớp quy tắc có thể bị lừa đảo?

Câu trả lời có thể quyết định xem chúng ta đang xây dựng thứ gì phù hợp với thực tại—hoặc chỉ đang xây dựng nó tốt hơn để thuyết phục chúng ta rằng nó đúng.