Amazon ban hành memo về việc sử dụng AI, cảnh báo tránh tokenmaxxing

Amazon đã đưa ra hướng dẫn khuyến nghị các kỹ sư phần mềm nên cân nhắc cẩn thận khi nào nên sử dụng AI và tránh tokenmaxxing. Bản ghi nhớ được lưu hành trong nội bộ nhân viên vào tháng Chín, trước khi Amazon công bố bản ghi nhớ này trên trang web công ty vào thứ Ba. Hướng dẫn này cập nhật các định nghĩa về vai trò kỹ sư phát triển phần mềm và quản lý của Amazon khi AI trở nên phổ biến hơn.

Amazon cho biết tác động của AI đối với kỹ sư phần mềm mới chỉ bắt đầu và các thực hành trong tương lai vẫn đang được hình thành. Amazon cho biết AI sẽ đóng vai trò trung tâm trong kỹ sư phần mềm, bất kể các thực hành đó sẽ phát triển như thế nào.

Amazon mô tả việc tiêu thụ token, tỷ lệ áp dụng công cụ AI và các thay đổi hoặc đánh giá mã là những thước đo "rất kém" để đo lường việc sử dụng AI trong các nhóm hoặc tổ chức. Amazon cho biết những thước đo này có thể làm tăng chi phí và tạo ra sự phức tạp quá mức. Tuy nhiên, Amazon không đề xuất từ bỏ hoàn toàn các thước đo này. Amazon cho rằng việc tiêu thụ token và tạo mã nên được đánh giá cẩn thận cùng với các dữ liệu khác. Amazon ủng hộ việc đánh giá hiệu suất thông qua kết quả trong dài hạn.

Amazon cũng khuyên nhân viên không nên sử dụng AI cho các nhiệm vụ mà các công cụ này không mang lại lợi ích. Amazon cho biết việc các công cụ AI hiện tại không mang lại lợi ích là một phát hiện, chứ không phải là sự thất bại. Amazon nói rằng các kỹ sư thể hiện sự phán đoán được yêu cầu khi họ có thể giải thích rõ những nơi mà AI vẫn chưa cải thiện công việc của họ.

Một người phát ngôn của Amazon cho biết Amazon chưa đặt giới hạn về số lượng token mà nhân viên sử dụng. Amazon đã đóng bảng xếp hạng nội bộ vào tháng Năm sau khi phát hiện nhân viên đang tokenmaxxing để leo lên vị trí cao hơn trong bảng xếp hạng. Tokenmaxxing là hành vi các nhà phát triển tối đa hóa việc sử dụng AI mà không quan tâm nhiều đến đầu ra tạo ra. Token là các đơn vị dữ liệu mà các mô hình AI xử lý và tạo ra.

Các công ty đang đối mặt với chi phí AI tăng nhanh và khó khăn trong việc xác định liệu AI có cải thiện năng suất hay mang lại lợi ích đầu tư đáng giá khác. Một số công ty đã hạn chế việc sử dụng token của nhân viên để kiểm soát chi phí AI. Các công ty khác đã chuyển một số nhiệm vụ sang các mô hình mã nguồn mở rẻ hơn.

Amazon đã mở rộng nhanh chóng việc sử dụng AI trong toàn bộ hoạt động kinh doanh dưới sự lãnh đạo của CEO Andy Jassy. Jassy dự đoán rằng AI sẽ thay đổi quy mô và tốc độ của công việc hàng ngày. Jassy cũng cho biết tự động hóa có thể làm giảm lực lượng lao động hành chính của Amazon trong vài năm tới, đồng thời tạo ra các công việc khác.