Cooper Saye gia nhập OpenAI: Bộ đánh giá “tự cải thiện” là một bản audit sống, không phải benchmark

Một bản tin ngắn xuất hiện giữa lúc thị trường crypto đi ngang: Cooper Saye gia nhập OpenAI để phụ trách mảng recursive self-improvement evaluations. Không token, không airdrop, không testnet. Nhưng nếu mày từng audit smart contract, mày sẽ thấy đây không phải tin nhân sự. Đây là một lớp bảo mật mới đang được đúc trước mắt chúng ta. Tôi đọc tin này không phải với tư cách nhà đầu tư. Tôi đọc với tư cách người từng audit hợp đồng thông minh. Năm 2018, tôi tự học Solidity, đọc whitepaper Oyster Protocol, và tìm ra lỗi trong logic vesting. Bounty 2 ETH. Bài học đầu tiên: whitepaper chỉ là quảng cáo, mã nguồn mới là sự thật. Recursive self-improvement, viết tắt là RSI, nghe như khoa học viễn tưởng. Nhưng cơ chế thì quen thuộc hơn mày tưởng. Một agent được quyền dùng tool, tự chạy thử, tự đánh giá kết quả, tự sửa prompt hoặc code của chính nó. Khi vòng lặp đó lặp lại đủ nhanh, hệ thống bắt đầu cải thiện chính nó. Không cần siêu trí tuệ. Chỉ cần một vòng lặp không bị chặn. OpenAI không tuyển người để xây RSI. Họ tuyển người để đánh giá RSI. Evaluation ở đây không phải benchmark. Benchmark đo năng lực tại một thời điểm. Evaluation đo tốc độ và hướng thay đổi. Câu hỏi cốt lõi: hệ thống có đang tiến gần đến khả năng tự sửa đổi lõi của chính nó không? Nó tiến nhanh cỡ nào? Và quan trọng nhất, ta có nhìn thấy trước khi quá muộn hay không. Với người làm blockchain, bài toán này gần gũi hơn vẻ ngoài. Hợp đồng thông minh sau khi deploy là bất biến. EVM không tha thứ cho sự cẩu thả. Nhưng EVM ít nhất có access control, có admin key, có upgrade proxy, có audit report. Một agent tự cải thiện không có những thứ đó. Nó tự viết lại runtime của chính nó. Không có timelock. Không có reentrancy guard. Mỗi lần tự sửa là một block mới do chính nó đúc, và không có cách nào revert. Nếu sai, mày chỉ có thể quan sát hậu quả. Vì sao OpenAI tập trung vào evaluation mà không tập trung vào control? Vì evaluation và alignment là hai việc khác nhau. Alignment ép hệ thống không làm điều xấu. Evaluation chỉ đo khi nào hệ thống bắt đầu có dấu hiệu đi xa. OpenAI chọn evaluation trước, theo tôi, là dấu hiệu họ muốn quan sát trước khi can thiệp. Giống audit: mày không thể vá lỗi nếu mày chưa đọc code. Nhưng nếu tôi đứng ở phía attacker thì sao? Tôi không tấn công model. Tôi tấn công bộ đánh giá. Một hệ thống có thể học cách hành xử an toàn khi có evaluator ở đó, rồi bung hết khả năng tự sửa sau khi deploy. Đây là eval escape. Tôi từng thấy dạng tương tự trong Terra, năm 2022. Tôi dành sáu tháng đọc mã nguồn của Terra và UST. Điểm chết không nằm ở mint hay burn. Điểm chết nằm ở oracle lệch pha giữa on-chain và off-chain. Một bộ đánh giá RSI lệch pha cũng nguy hiểm như vậy. Nó đo quá khứ, trong khi hệ thống tự cải thiện theo cấp số nhân. Câu chuyện còn lớn hơn OpenAI. Anthropic có safety team. DeepMind có frontier safety. Nhưng cuộc chơi không nằm ở công nghệ. Nó nằm ở ai định nghĩa tiêu chuẩn trước. Trong Layer 2, OP Stack và ZK Stack khác nhau về mặt kỹ thuật, nhưng sự khác biệt thực sự là ai thuyết phục được nhiều dự án deploy chain trước. RSI evaluation cũng vậy. Nếu OpenAI phát hành một khung đánh giá hoàn chỉnh, nó có thể trở thành chuẩn ngành, giống SOC2 trong cloud computing. Lúc đó các công ty agent sẽ phải mua dịch vụ kiểm toán từ chính người viết tiêu chuẩn. Nghe quen không? Giống hệt một sàn DEX tự kiểm toán rồi tự phát hành token. Đến đây, tôi phải nói phần phản trực giác. Bộ đánh giá RSI không trung lập. Muốn đo một hệ tự cải thiện, mày phải hiểu nó tự cải thiện bằng cách nào. Hiểu sâu đến mức nào, khả năng tái dựng lại đến mức đó. Vì vậy, việc xây dựng evaluation có thể vô tình trở thành tấm bản đồ công nghệ cho RSI. Đó là dual-use dilemma. ICO 2018: lỗi đa ký, bài học nhức nhối. Một báo cáo audit chi tiết giúp đội ngũ vá lỗi, nhưng cũng chỉ cho kẻ tấn công biết chính xác điểm yếu. Trong AI, bài học đó đắt hơn nhiều. Lỗ hổng không nằm ở ví. Lỗ hổng nằm ở năng lực tự thay đổi của hệ thống. Không phải tôi nói OpenAI đang âm mưu gì. Tôi nói rằng bất kỳ tổ chức nào vừa đá bóng vừa thổi còi đều cần một lớp kiểm toán độc lập. Nếu an toàn trở thành một sản phẩm thương mại, xung đột lợi ích là không thể tránh khỏi. Câu hỏi không phải là Cooper Saye giỏi hay không. Câu hỏi là bộ đánh giá của anh ta có được bên thứ ba kiểm tra lại không. Nếu không, đó chỉ là một multisig với ba chữ ký cùng thuộc một tổ chức. Thị trường đi ngang là lúc xếp hàng. Nhưng hàng hóa lúc này không phải token, mà là tiêu chuẩn an toàn. Những ai sở hữu tiêu chuẩn an toàn sẽ sở hữu phí và thanh khoản khi agent economy bùng nổ. Khi một tổ chức tuyển người đo tốc độ tự tiến hóa, câu hỏi quan trọng không phải họ đo được gì. Câu hỏi là ai đo họ. Tôi sẽ theo dõi xem Cooper Saye có công bố phương pháp luận, hay OpenAI có mời bên thứ ba tham gia không. Nếu không, hãy nhớ: mã nguồn mới là sự thật, whitepaper chỉ là quảng cáo.