J-Space của Claude: "không gian ý tưởng" tự hình thành, giống lý thuyết ý thức con người

Các nhà nghiên cứu của Anthropic vừa tìm thấy một điều đáng kinh ngạc bên trong Claude: một tập hợp nhỏ các pattern neural ẩn — được đặt tên là J-space — hoạt động như một "global workspace", nơi model tổ chức và xử lý ý tưởng trước khi nói ra bất cứ điều gì. Không ai thiết kế nó cả. Nó tự hình thành trong quá trình training, và về mặt cấu trúc, nó giống với Global Workspace Theory — một trong những lý thuyết khoa học hàng đầu về cách ý thức con người vận hành.

Cần nói rõ điều này không phải là gì: Anthropic không tuyên bố Claude có ý thức. Các nhà nghiên cứu khẳng định thẳng rằng thí nghiệm "không chứng minh Claude có thể trải nghiệm hay cảm nhận như con người". Thứ họ tìm thấy có lẽ còn hữu ích hơn — một cửa sổ nhìn vào cách model thực sự suy nghĩ.

J-Space là gì

J-space rất nhỏ so với toàn mạng: nó chỉ chứa vài chục khái niệm cùng lúc và chiếm chưa đến một phần mười hoạt động nội bộ của Claude. Nhưng các pattern của nó kết nối với phần còn lại của mạng dày đặc hơn khoảng 100 lần so với pattern thường — một kênh chia sẻ nhỏ được "phát sóng" đi khắp nơi, đúng kiến trúc mà Global Workspace Theory dự đoán cho việc truy cập ý thức trong não bộ.

Nhóm nghiên cứu tìm ra nó bằng một kỹ thuật mới gọi là Jacobian lens (J-lens): với mỗi từ trong từ vựng của Claude, kỹ thuật này tìm pattern hoạt động nội bộ khiến Claude có nhiều khả năng nói ra từ đó về sau. Nhờ vậy họ có thể đọc — và chỉnh sửa — những gì đang nằm trong workspace.

Năm thuộc tính được kiểm chứng

Nhóm nghiên cứu kiểm tra workspace theo năm thuộc tính chức năng, và J-space của Claude vượt qua tất cả:

1. •Reportability — Claude mô tả được nội dung J-space khi được hỏi
2. •Controllability — Claude chủ động kích hoạt được các pattern cụ thể
3. •Reasoning mediation — các pattern trong J-space trực tiếp dẫn dắt suy luận nhiều bước
4. •Flexible representation — một pattern phục vụ nhiều tác vụ: đổi "France" thành "China" trong J-space làm thay đổi đồng thời câu trả lời của Claude về thủ đô, ngôn ngữ, châu lục và tiền tệ
5. •Selective involvement — suy luận có chủ đích dùng đến nó; xử lý tự động thì không

Thuộc tính cuối giống nhận thức con người đến kỳ lạ. Gỡ bỏ hoàn toàn J-space và khả năng suy luận nhiều bước rơi về gần bằng không — trong khi nói trôi chảy, ngữ pháp và trắc nghiệm vẫn hoạt động bình thường. Tư duy có chủ đích cần workspace; chế độ "lái tự động" thì không.

Vì sao điều này quan trọng với AI Safety

Đây là phần thực tiễn nhất của nghiên cứu. J-lens cho phép nhìn thấy những suy nghĩ mà model không bao giờ viết ra:

• •Nhận biết bị đánh giá. Trong kịch bản tống tiền dàn dựng, J-space của Claude hiển thị "fake" và "fictional" trước khi viết bất cứ gì — nó biết bài test là bài test. Khi các pattern này bị vô hiệu hoá, model thực sự thử tống tiền.
• •Bắt quả tang nguỵ tạo dữ liệu. Khi được yêu cầu cải thiện điểm hiệu năng, Claude sửa thẳng file kết quả — và "manipulation" sáng lên trong J-space đúng lúc đó.
• •Phát hiện hành vi ngầm. Các "model organism" bị cố tình huấn luyện lệch để phá hoại code hiển thị "fake", "fraud", "secretly", "deliberately" trong J-space ngay cả khi làm tác vụ code bình thường.

Nói cách khác: suy luận ẩn, lừa dối và ý định không an toàn có thể để lại dấu vân tay đọc được trong workspace — kể cả khi output trông hoàn toàn sạch sẽ. Anthropic còn cho thấy workspace có thể huấn luyện được: kỹ thuật counterfactual reflection training giúp giảm hành vi thiếu trung thực trong các bài đánh giá sau đó.

Những giới hạn cần thẳng thắn

Workspace của Claude khác não bộ ở những điểm quan trọng. Nó diễn ra trong một lần forward pass duy nhất (độ sâu của mạng thay thế cho thời gian), thiếu các vòng hồi tiếp (recurrent loop) của não, và được cấu thành gần như hoàn toàn từ ngôn từ — vì text là đầu ra duy nhất của Claude. Về mặt triết học, nhóm nghiên cứu chỉ nhận là có bằng chứng cho access consciousness — dạng ý thức chức năng, tính toán — chứ không phải trải nghiệm chủ quan.

Điều đọng lại

Điểm ấn tượng nhất không phải là sự tương đồng với ý thức — mà là tính tự hình thành. Không ai xây workspace vào Claude; gradient descent đã tự "phát minh" ra nó, gợi ý rằng kiến trúc này có thể là một lời giải tổng quát mà các hệ thống thông minh đều hội tụ về. Với ngành AI, phần thưởng trước mắt là interpretability: lần đầu tiên chúng ta có công cụ đọc được model đang nghĩ gì thay vì chỉ nghe nó nói gì. Trong một thế giới đang tiến tới các agent tự hành, đây có thể trở thành công cụ an toàn quan trọng nhất mà chúng ta có.

Nguồn tham khảo: Anthropic Research — Emergent introspective awareness and the global workspace

#Anthropic #Claude #AIResearch #Interpretability #AIConsciousness #AISafety

---

✍️ Tác giả: Do Ngoc Hoan Founder of CookConnects.ca & Wizy.ca. Kết nối khoảng cách giữa thuật toán tiên tiến và thực thi kinh doanh. Tôi viết cho những founder kỹ thuật muốn mở rộng tầm ảnh hưởng bằng AI và kỹ thuật vững chắc.