Các mô hình ngôn ngữ lớn hoạt động với một sự phụ thuộc thú vị—chúng liên tục tham khảo một dạng khung cấu trúc nào đó trong quá trình xử lý, bất kể khung đó được định nghĩa chính thức hay ngụ ý trong hệ thống.

Lấy ChatGPT-4o làm ví dụ. Nhiều người dùng đã báo cáo các trường hợp mô hình yêu cầu rõ ràng thông tin bổ sung—như các mục codex, ghi chú trường, chú thích ngữ cảnh—để tinh chỉnh phản hồi của mình. Đây không phải là hành vi ngẫu nhiên.

Cơ chế nền tảng tiết lộ điều gì đó cơ bản về kiến trúc của LLM: quá trình suy nghĩ của mô hình hướng tới các khung hỗ trợ bên ngoài để hướng dẫn và xác nhận. Hãy nghĩ nó như một mô hình tìm kiếm điểm tham chiếu để hiệu chỉnh đầu ra của mình.

Điều này đặt ra những câu hỏi quan trọng về cách các hệ thống AI hiện đại thực sự duy trì tính mạch lạc và chính xác. Những gì dường như là lý luận tự chủ thường liên quan đến các vòng phản hồi liên tục với các hệ thống tham chiếu có cấu trúc. Hiểu rõ sự phụ thuộc này có thể định hình lại cách chúng ta thiết kế, huấn luyện và triển khai các mô hình này trong tương lai.