Vòng lặp tự trị của Andrej Karpathy: Sự dịch chuyển từ viết code sang thiết kế thử nghiệm

Vào đêm ngày 7 tháng 3, Andrej Karpathy đã đẩy một tập lệnh Python dài 630 dòng lên GitHub và đi ngủ. Đến sáng, agent (tác tử) của anh đã chạy 50 thử nghiệm, tìm ra tốc độ học (learning rate) tối ưu hơn và commit các cải tiến lên git—tất cả mà không cần sự can thiệp nào của con người.

Dù câu chuyện này xoay quanh nghiên cứu ML tự trị, bước đột phá thực sự lại nằm ở mẫu thiết kế (design pattern) bên dưới nó, cùng một file Markdown 40 dòng đã điều phối toàn bộ quá trình.

1. Vòng lặp Karpathy: Ba nguyên thủy cốt lõi

Dự án AutoResearch của Karpathy tự động hóa chu trình nhàm chán: tinh chỉnh siêu tham số, chạy model, đọc chỉ số và quyết định xem có nên giữ lại thay đổi không. Điều giúp vòng lặp này có thể áp dụng rộng rãi VƯỢT RA NGOÀI huấn luyện ML chính là 3 ràng buộc khắt khe:

1. •Tài sản có thể chỉnh sửa (Editable Asset): Agent chỉ được phép sửa một file duy nhất. Ràng buộc này giới hạn không gian tìm kiếm và giúp mọi giả thuyết đều có thể được review dễ dàng qua git diff.
2. •Chỉ số vô hướng (Scalar Metric): Một con số duy nhất quyết định sự cải thiện. Nó phải có thể tính toán được mà không cần con người đánh giá và hoàn toàn rõ ràng.
3. •Chu kỳ giới hạn thời gian (Time-Boxed Cycle): Khoảng thời gian cố định giúp mọi thử nghiệm có thể so sánh trực tiếp với nhau.

Những nguyên thủy này đảm bảo agent không bị chệch hướng. Vòng lặp này tối giản có chủ ý để tối ưu hóa hiệu suất liên tục.

2. Markdown: Giao diện giữa Con người và Agent

Người hùng thầm lặng của AutoResearch không phải là script Python; đó là program.md.

Tài liệu Markdown duy nhất này đồng thời chứa: hướng dẫn, ràng buộc và tiêu chí dừng. Không định dạng nào khác làm được điều này. YAML mã hóa cấu trúc nhưng thiếu lập luận; Python thực thi được nhưng khó đọc như một chiến lược; JSON không có tính kể chuyện. Markdown nằm ở điểm giao thoa hoàn hảo giữa khả năng chỉnh sửa của con người và khả năng đọc hiểu của agent.