Có người dùng Transformer để xác định vòng lặp trong mã có thể song song hóa hay không.

Nghe có vẻ rất học thuật? Đừng vội.
Trước tiên nói về bối cảnh.
Ai viết mã đều biết rằng việc biến một vòng for thành thực thi song song là bí quyết tối ưu hóa hiệu suất. Nhưng vấn đề là: sửa sai thì dễ gây lỗi. Phương pháp truyền thống dựa vào phân tích tĩnh, nhưng gặp phải các mối phụ thuộc phức tạp thì thất bại.
Bài báo này đã làm một việc: đưa mã vào mô hình Transformer (đúng vậy, kiến trúc giống GPT đó), để AI đánh giá “vòng lặp này có thể chạy song song một cách an toàn hay không”.
Tại sao hướng này lại thú vị.
Các công cụ phân tích song song hóa truyền thống đã phát triển hàng chục năm, nhưng độ chính xác vẫn chưa đủ trong các tình huống phức tạp. Mô hình đa diện không thể xử lý mã có cấu trúc động.
Ưu điểm của Transformer là nó có thể nắm bắt các mối phụ thuộc dài hạn trong mã. Một biến được sửa ở dòng thứ 3 của vòng lặp, rồi đọc ở dòng thứ 47 — loại quan hệ luồng dữ liệu vượt khoảng cách này, đối với Transformer, là vấn đề của cơ chế chú ý tự nhiên.
Nhưng tôi không muốn nói về chính bài báo này. Tôi muốn nói về xu hướng.
AI đang tiến từ “giúp bạn viết mã” sang “giúp bạn tối ưu hóa cách thực thi mã nền tảng”. Đây là một cấp độ hoàn toàn khác.
Viết mã là thay thế tay của lập trình viên. Tối ưu hóa thực thi là thay thế bộ não của kỹ sư compiler.
Khi AI có thể xác định được mã nào có thể song song, mã nào không, bước tiếp theo là tự động chỉnh sửa.
Nói cách khác — AI không chỉ học cách viết mã, mà còn học cách hiểu mã.
Đối với nhà phát triển, đây là điều tốt. Những vòng lặp kém của bạn, AI sẽ giúp bạn tối ưu hóa.
Đối với nhóm phát triển compiler, đây là mối đe dọa. Kỹ năng cốt lõi của bạn đang bị mô hình hóa.
Thời đại của coder cảm xúc ngày càng đến gần. Con người đang bị loại bỏ khỏi quá trình.