Con đường của AI đến sự thành thạo: Nơi nào có hệ thống điểm số, AI sẽ theo sau

Tác giả: Robonaissance

Biên dịch: Deep潮 TechFlow

Dẫn nhập của Shenchao: Cờ vây, cờ vua, gập protein — những lĩnh vực dường như đòi hỏi trực giác và sáng tạo con người, tại sao lại lần lượt bị AI chinh phục? Bài viết này tiết lộ một quy luật bị bỏ qua: điều quyết định liệu AI có thể vượt qua con người hay không, không phải là độ khó của nhiệm vụ, mà là liệu có thể định lượng thành công hay không. Khi một lĩnh vực thiết lập tiêu chí đánh giá, nó đã tự đặt ra thời gian đếm ngược cho sự bị chinh phục của mình.

Trích từ chuỗi "Whatever You Ask For", về công việc duy nhất mà máy móc không thể thay thế chúng ta làm.

Ngày 10 tháng 3 năm 2016, tại một khách sạn ở Seoul, một cỗ máy đã đưa ra một nước đi mà tất cả những người trong phòng đều không hiểu, trong khi đối thủ của nó lúc đó vắng mặt.

Lee Se-dol ra ngoài hút thuốc. Lúc đó anh 33 tuổi, đang nắm giữ 18 danh hiệu vô địch thế giới, được công nhận là kỳ thủ cờ vây mạnh nhất thế hệ đó. Anh đã thua ván đầu tiên vào ngày hôm trước, nên khi bước vào ván thứ hai, sự tự tin ban đầu đã giảm đi đáng kể, tâm lý trở nên cẩn trọng hơn. Trong lúc anh ở ngoài, AlphaGo đã chọn nước đi thứ 37, và nghiên cứu viên của DeepMind, Huang Shi-jie, thay cho máy tính, nhẹ nhàng đặt quân cờ lên bàn cờ.

The piece landed on the fifth line.

Đối với những người không hiểu cờ vây, điều này chẳng có ý nghĩa gì. Đối với những người hiểu, điều này gần như là một trò đùa. Trong giai đoạn khai cuộc và trung cuộc, các vị trí cách biên quá xa được coi là kém hiệu quả, vừa không thể chiếm được thực địa, vừa không thể giữ vững lãnh thổ, tương đương với việc tự đưa điểm cho đối thủ. Đây là cách đi mà giáo viên sẽ sửa cho người mới học. Trên bàn bình luận, các kỳ thủ chuyên nghiệp hàng đầu Michael Redmond trong lúc bình luận trực tiếp trận đấu, ban đầu nghĩ rằng tín hiệu bàn cờ bị lỗi. Anh ấy nhấc một quân cờ lên, rồi lại đặt xuống.

Li Seok-ho quay lại ngồi, nhìn chằm chằm vào bàn cờ trong một thời gian dài mà không cử động. Các ý kiến khác nhau từ khoảng 12 đến 15 phút. Fan Hui, nhà vô địch châu Âu bị AlphaGo đánh bại cách đây năm tháng, đang theo dõi trận đấu trong tòa nhà. Sau khi nhìn chằm chằm trong thời gian dài, ông kết luận: "Đây không phải là cách chơi của con người. Tôi chưa bao giờ thấy ai chơi như vậy."

Anh ấy nói đúng, và mức độ đúng đắn đó có thể đo lường được. Hệ thống của DeepMind có một cơ chế ước tính bên trong, thông qua việc học hàng ngàn ván cờ của con người, để ước tính xác suất con người sẽ đi một nước cờ cụ thể trong bất kỳ tình huống nào. Đối với nước thứ 37, giá trị ước tính này khoảng một phần vạn.

Máy vẫn đã đi, và nước cờ này đã giành chiến thắng cả ván.

Có một cách hiểu dễ chịu về câu chuyện này, cho rằng máy móc đã nỗ lực học hỏi các đại sư con người và cuối cùng đã đuổi kịp người mạnh nhất trong số họ. Cách hiểu này là sai, con số một phần vạn chính là lý do vì sao nó sai. Một hệ thống học và bắt chước cách đi của con người sẽ có một giới hạn, đó chính là cách đi của con người. Điều xảy ra ở Seoul là một hệ thống đã không còn bị giới hạn đó ràng buộc, bởi vì mục tiêu được giao cho nó không phải là sự công nhận của các đại sư con người, mà là chiến thắng.

Sự khác biệt này mang lại hướng đi hữu ích hơn là sự ngưỡng mộ. Nếu bạn muốn biết những hoạt động của con người nào đã thua trong khía cạnh thuần túy về năng lực, và cái nào sẽ là tiếp theo, câu hỏi bạn cần đặt ra không phải là hoạt động đó khó đến đâu, cần bao nhiêu sáng tạo, hay đòi hỏi bao nhiêu trực giác. Câu hỏi đó nhàm chán hơn nhiều.

Vấn đề là, thành công có thể chấm điểm được không.

Cờ vua đã thua cách đây 19 năm, với cách thua hoàn toàn khác biệt.

Deep Blue năm 1997 đánh bại Kasparov sử dụng một kiến trúc về bản chất là một hành vi biểu đạt khổng lồ của con người. Hàm đánh giá của nó—thành phần nhận diện một thế cờ và đưa ra một con số thể hiện mức độ tốt xấu—được lắp ráp và tinh chỉnh nhờ sự hỗ trợ của các đại kiện tướng. Kiến thức cờ vua của con người đã được cật lực trích xuất từ các kỳ thủ, sau đó đưa vào máy tính. Điều máy tính bổ sung là khả năng tìm kiếm: nhìn xa hơn nhiều nước đi, nhanh hơn, không mệt mỏi và không bị phân tâm dẫn đến mất quân.

Đây là một chiến thắng thực sự và nên được xem là một chiến thắng. Nhưng hãy chú ý đến hình thái của nó. Deep Blue hiểu cờ vua theo cách hiểu của con người. Ưu thế của nó là tốc độ. Nếu bạn hỏi nó tại sao lại đánh giá một thế cờ như vậy, câu trả lời cuối cùng sẽ dẫn đến người đã chỉ dẫn nó làm như vậy.

20 năm sau, DeepMind đã ra mắt một hệ thống có tên AlphaZero, với hình thái thay đổi.

AlphaZero được cung cấp các quy tắc của cờ vua. Nó không được cung cấp thư viện khai cuộc—danh mục các nước đi đầu đã được nghiên cứu mà mọi chương trình nghiêm túc đều dựa vào. Nó không được cung cấp bảng kết thúc. Nó không được cung cấp bất kỳ ván cờ nào của con người. Nó tự chơi với chính mình, bắt đầu từ các nước đi ngẫu nhiên và điều chỉnh bản thân dựa trên những gì mang lại chiến thắng.

Khoảng bốn giờ sau, DeepMind ước tính điểm elo của nó đã vượt quá Stockfish 8 – chương trình truyền thống mạnh nhất lúc bấy giờ. Khoảng chín giờ sau, nó đã chơi một trăm ván với Stockfish trong điều kiện giới hạn thời gian, giành chiến thắng 28 ván, không thua ván nào và 72 ván hòa. Bài báo cáo cho biết, trong vòng 24 giờ, nó đã đạt đến cấp độ siêu nhân trong cờ vua, cờ shogi và cờ vây.

Các con số này thường được trích dẫn mà không kèm theo phần còn lại, nhưng phần còn lại lại rất quan trọng. Các ván cờ tự chơi được tạo ra trên năm nghìn bộ xử lý tensor thế hệ đầu tiên, trong khi sáu mươi bốn bộ xử lý thế hệ thứ hai được dùng để huấn luyện mạng lưới, tất cả chạy song song. Bốn giờ thời gian thực tương đương với bốn giờ tính toán—lượng tính toán mà bất kỳ cá nhân nào, thậm chí vài tổ chức, cũng không thể lắp ráp được. Thành tựu không phải là việc học cờ vua trở nên dễ dàng. Thành tựu là, khi bạn có lượng tính toán lớn như vậy, kiến thức của con người không còn là điều bạn cần nữa.

Kasparov có lý do hơn bất kỳ ai đang sống để coi kết quả này là nhắm vào chính mình, nhưng ông đã viết một bài bình luận trên tạp chí《Science》với tinh thần rất rộng lượng. Quan sát của ông là AlphaZero không chơi cờ khô khan, cẩn trọng, thiên về hòa như mọi người vẫn tưởng tượng một cỗ máy hoàn hảo sẽ làm. Nó ưa thích sự chủ động hơn là lợi thế quân, sẵn sàng hy sinh quân để tạo ra những thế cờ mà theo ông trông có vẻ rủi ro. Ông chỉ ra rằng các chương trình truyền thống mang theo các ưu tiên và định kiến của chính những người viết ra chúng. AlphaZero tự viết nên chính nó. Ông kết luận rằng phong cách của nó do đó phản ánh điều gì đó chân thực hơn cả sở thích của các lập trình viên, và ông nhận xét rằng nó kiểm tra ít vị trí hơn nhiều mỗi giây so với các động cơ truyền thống tốt nhất thế giới, nhưng vẫn giành chiến thắng.

Chi tiết cuối cùng này đáng để ghi nhớ. Mặc dù các động cơ truyền thống tìm kiếm nhiều khả năng hơn mỗi giây, nhưng chúng lại thua. Ưu thế của AlphaZero không phải là tìm kiếm chăm chỉ hơn, mà là biết phải nhìn vào đâu, và kiến thức này được tạo thành từ hàng triệu ván tự chơi và một quy tắc về người chiến thắng, không có gì khác.

Kết quả của shogi trông kỳ lạ hơn đối với những người đủ trình độ để đọc hiểu. Shogi là một trò chơi cờ Nhật Bản, trong đó các quân bị ăn sẽ trở lại tay người đã ăn chúng, khiến sự biến động của vị trí vượt xa cờ vua, đồng thời nó cũng có hàng trăm năm tích lũy lý thuyết về cách bảo vệ vua an toàn. Những kỳ thủ mạnh sau khi xem các ván cờ của máy báo cáo rằng, các nước đi khai cuộc vi phạm các lý thuyết đã biết, và vua di chuyển đến trung tâm bàn cờ vào những thời điểm mà mọi cuốn sách đều nói rằng nên lùi vào góc. Những ván cờ này gần như không thể giải mã được đối với mắt người được đào tạo, nhưng chúng lại chiến thắng.

Đặt hai hệ thống cạnh nhau, quy luật trở nên rõ ràng đến mức đáng lo ngại. Xanh đậm là tri thức con người cộng với tốc độ máy móc. AlphaZero là tốc độ máy móc cộng với định nghĩa về chiến thắng, tri thức con người bị loại bỏ một cách chủ ý. Phiên bản không có tri thức con người lại tốt hơn.

Tất cả những điều này không có nghĩa là máy móc năm 2016 là hoàn hảo, cùng trận đấu tại Seoul đã chứa đựng bằng chứng.

Trong ván thứ tư, với tỷ số thua 0-3 và đang chiến đấu vì danh dự, Lee Sedol đã đặt một quân cờ vào giữa hai nhóm quân của AlphaGo ở trung tâm bàn cờ. Quân cờ sau này được gọi là “động tác thần thánh”. Chính AlphaGo ước tính xác suất con người sẽ đi nước này vào khoảng một phần vạn, một sự đối xứng kỳ diệu. Hệ thống không thể ứng phó. Đánh giá xác suất chiến thắng của nó sụp đổ trong vài nước tiếp theo, lực chơi suy giảm và thua ván này.

Vì vậy, vào tháng 3 năm 2016, trên thân máy vẫn còn một lỗ hổng, và một con người đã tìm ra nó dưới ánh mắt của cả thế giới và trong áp lực lớn nhất. Điều này đáng để nêu rõ, chứ không nên lướt qua một cách âm thầm. Cũng đáng để nói đến những gì xảy ra sau đó: những lỗ hổng loại này đã được sửa chữa ổn định, và người kế thừa của hệ thống đó không còn thua những ván cờ như vậy nữa; các động cơ hàng đầu đã rất lâu rồi không thua con người trong bất kỳ cuộc thi nghiêm túc nào. Kết quả năm 2016 là một khoảnh khắc chuyển đổi, không phải là sự cân bằng quyền lực vĩnh viễn.

Từ những bàn cờ này đến mọi thứ khác, điều được chuyển giao không phải là chiến thắng bản thân, mà là cơ chế. Cờ vua và cờ vây chắc chắn sẽ là những cái đầu tiên sụp đổ, vì lý do thật đơn giản và ngượng ngùng: trong các trò chơi này, thành công được định nghĩa một cách chính xác hoàn toàn bởi các quy tắc. Bạn thắng hoặc không thắng, điểm số được tính miễn phí, tức thì và không thể tranh cãi. Một hệ thống có thể tự chơi với chính nó bốn mươi triệu ván trong một cuối tuần, thu về bốn mươi triệu phán quyết rõ ràng.

Điều này cho thấy nơi tiếp theo cần chú ý. Không phải những nhiệm vụ đơn giản, mà là những nhiệm vụ có bảng điểm riêng.

Protein là chuỗi amino acid, gập lại thành hình dạng ba chiều phức tạp ngay khi được tổng hợp. Hình dạng quyết định chức năng của protein. Chuỗi xác định hình dạng. Việc suy ra hình dạng từ chuỗi kể từ những năm đầu thập niên 1970 đã trở thành một vấn đề mở trong sinh học, và nó vẫn mở theo cách kháng lại mọi nỗ lực: từ mô phỏng vật lý nguyên lý đầu tiên, phân tích thống kê về mối quan hệ tiến hóa, đến trực giác cấu trúc tích lũy qua nhiều thập kỷ—tất cả đều thất bại.

Năm 1994, một nhóm nghiên cứu do John Moult dẫn đầu đã làm gì với thực tế này: mọi người trong lĩnh vực đều tuyên bố có tiến bộ, nhưng không ai có thể xác minh.

Họ đã tổ chức một kỳ thi. Kể từ đó, hai năm một lần, Cuộc đánh giá dự đoán cấu trúc protein quan trọng (CASP) sẽ công bố các chuỗi protein có cấu trúc đã được xác định thực nghiệm, trong một số trường hợp thậm chí còn đang trong quá trình xác định, cho toàn thế giới. Bất kỳ đội nào cũng có thể nộp dự đoán. Không ai có thể tiếp cận câu trả lời, vì câu trả lời cho một số mục tiêu vẫn chưa tồn tại. Khi cấu trúc thực nghiệm được công bố, các dự đoán sẽ được chấm điểm so sánh.

Điểm số được tính bằng một chỉ số gọi là Global Distance Test, từ 0 đến 100, có thể hiểu sơ bộ là tỷ lệ phần trăm cho thấy vị trí cuối cùng của chuỗi gần với vị trí thực tế. Moult từng nói rằng khoảng 90 điểm được coi không chính thức là tương đương với cấu trúc xác định trong phòng thí nghiệm. Trong phần lớn lịch sử đánh giá, các dự đoán tốt nhất thường dao động quanh 60 điểm.

Tại CASP14 năm 2020, một đội đăng ký dưới số 427 đạt điểm trung vị 92,4 trên tất cả các mục tiêu. Trong danh mục khó nhất—những mục tiêu không có đồng loại cấu trúc hữu ích để dựa vào—điểm trung vị là 87,0. Sai số trung bình khoảng 1,6 angstrom, tương đương với độ rộng của một nguyên tử.

Moult đã giữ chức chủ tịch kể từ khi cuộc thi bắt đầu, và anh ấy đã dẫn dắt khán giả xem lại lịch sử cuộc thi trước khi trình bày biểu đồ. Biểu đồ minh họa toàn bộ câu chuyện trong một hình ảnh. Đường kẻ hai mươi năm bò quanh mức 60, sau đó một đường kẻ vươn tới nơi mà các đường khác chưa bao giờ đạt đến.

Nhóm 427 là AlphaFold2. Moult tuyên bố rằng đối với chuỗi protein đơn, vấn đề đã được giải quyết.

Các từ hạn chế nên ở đó, nên có trong mỗi lời kể trung thực. Một chuỗi đơn không phải là toàn bộ khoa học protein. Cách protein lắp ráp thành các phức hợp, cách chúng di chuyển, và cách chúng biểu hiện trong tế bào sống vẫn còn là những câu hỏi mở. Một thách thức lớn đã được đóng lại là một thách thức cụ thể và được diễn đạt chính xác.

Sự chính xác này chính là điểm then chốt của câu chuyện này. Điều làm cho dự đoán cấu trúc sụp đổ không phải vì nó vốn đơn giản, bởi nửa thế kỷ thất bại đã chứng minh điều ngược lại. Điều làm nó sụp đổ là vào năm 1994, lĩnh vực này đã tự xây cho mình một bảng điểm.

Khi xem CASP như một dự án kỹ thuật thay vì một lĩnh vực khoa học, nó cung cấp: một thước đo thành công rõ ràng cho mọi dự đoán, có thể tính toán trong vài giây; một tiêu chuẩn thực tế không thể gian lận, vì câu trả lời được xác định vật lý bởi người khác trong phòng thí nghiệm; một luồng các vấn đề mới được tạo ra theo lịch trình cố định; và một lịch sử ba mươi năm với các nỗ lực đã được đánh giá, tức là một hồ sơ phân cấp về những gì tốt hơn, những gì kém hơn trong lĩnh vực này.

Một lĩnh vực đã làm tất cả những điều này vô tình đã chuẩn bị sẵn các cuộc tấn công tự động nhắm vào chính mình. Bảng điểm là điều kiện tiên quyết. Mọi thứ khác đều là kỹ thuật và tính toán, và cả hai đều trở nên rẻ hơn mỗi năm trong một thời gian dài.

Việc quảng bá một cách dễ dàng khiến người ta lo lắng. Nơi nào có một tiêu chuẩn đồng thuận trong lĩnh vực, nơi đó sẽ xuất hiện một mục tiêu. Máy dịch có bộ tiêu chuẩn đánh giá. Nhận dạng giọng nói có bộ tiêu chuẩn đánh giá. Phân loại hình ảnh có một bộ dữ liệu gồm một triệu bức ảnh và một cuộc thi hàng năm, mọi người đã xem cuộc thi đó đều biết câu chuyện sẽ kết thúc như thế nào. Quy luật không phải là cái gì khó thì đổ trước, hay cái gì đơn giản thì đổ trước. Quy luật là cái gì được đo lường thì đổ trước.

Điều này đặt ra những câu hỏi rõ ràng đối với tất cả những thứ chưa được đo lường.

Biện pháp cuối cùng nên là những thứ không thể đánh giá điểm.

Viết lách là ví dụ tiêu chuẩn. Không có chương trình nào có thể lấy một đoạn văn và trả về một con số nói rằng nó tốt đến mức nào. Hai biên tập viên có năng lực có thể không đồng ý với nhau. Cùng một biên tập viên có thể không đồng ý với chính mình vào những ngày khác nhau. Chất lượng ngôn ngữ bị ràng buộc với ngữ cảnh, đối tượng, mục đích và gu thẩm mỹ, những yếu tố này không thể rút gọn thành một giá trị đo lường. Nếu máy móc cần bảng điểm, trong khi ngôn ngữ không có bảng điểm, thì ngôn ngữ vẫn an toàn.

This argument is valid. What happened to it is the most important reason in this entire narrative.

Không có thước đo khách quan nào để đánh giá việc viết lách trong lĩnh vực này. Vẫn chưa có thứ gì như vậy. Nó tạo ra một điểm số bằng cách sử dụng chính sự phán xét của con người—là nguyên liệu duy nhất có sẵn.

Phương pháp này có lịch sử lâu đời hơn nhiều so với hầu hết mọi người nghĩ. Năm 2008, Knox và Stone đã mô tả một hệ thống có tên TAMER, trong đó con người quan sát hành vi của các tác nhân thông minh và đưa ra đánh giá, những đánh giá này được sử dụng để huấn luyện một mô hình dự đoán con người sẽ nói gì. Sau đó, chính mô hình—không phải con người—cung cấp tín hiệu huấn luyện. Năm 2017, Christiano và các đồng nghiệp đã công bố một nghiên cứu mà hầu hết mọi người coi là nguồn gốc trực tiếp của thực hành hiện tại, áp dụng ý tưởng này vào các tác nhân chơi trò chơi Atari. Năm 2019, Ziegler và các đồng nghiệp đã áp dụng nó vào các mô hình ngôn ngữ, và phần lớn thuật ngữ được sử dụng ngày nay đã được xác định trong bài báo đó. Năm 2022, Ouyang và các đồng nghiệp đã triển khai phương pháp này ở quy mô công nghiệp trên các nhiệm vụ tuân thủ lệnh, và không lâu sau đó, phần lớn người dân trên Trái Đất đã vô tình tiếp xúc với những thành tựu này.

Cơ chế cốt lõi của nó đáng để tìm hiểu kỹ lưỡng, vì nó đơn giản hơn nhiều so với những gì danh tiếng gợi ý.

Một người ngồi trước hai đoạn văn bản, cả hai đều là kết quả do mô hình tạo ra từ cùng một lời nhắc. Nhiệm vụ không phải là chấm điểm chúng. Chấm điểm chính là việc con người làm rất kém, vì điểm bảy của người này có thể là điểm năm của người khác, và thậm chí cùng một người cũng không ổn định trong cùng một buổi chiều. Nhiệm vụ chỉ đơn giản là nói đoạn nào tốt hơn. Đây là phán đoán mà con người có thể đưa ra một cách đáng tin cậy, và các phương pháp toán học để chuyển đổi một loạt các so sánh như vậy thành một thang đo nhất quán còn lâu đời hơn cả lĩnh vực sử dụng chúng, có thể truy ngược về công trình của Bradley và Terry năm 1952 về so sánh cặp đôi.

Hãy cân nhắc điều kiện làm việc dẫn đến những phán đoán này, vì chúng cuối cùng sẽ tạo ra ảnh hưởng. Người này phải đưa ra rất nhiều phán đoán như vậy mỗi giờ, nhận thù lao và dựa vào một hướng dẫn viết sẵn để giải thích khách hàng cho rằng câu trả lời nào tốt hơn. Một số cặp câu trả lời gần như hoàn toàn giống nhau. Một số liên quan đến những chủ đề mà người này hoàn toàn không biết, trong trường hợp đó, câu trả lời nào tự tin và có tổ chức hơn thường được chọn, bất kể nó có chính xác hơn hay không. Đây không phải là sự chỉ trích những người này. Đây là mô tả về những gì bất kỳ ai cũng sẽ làm trong điều kiện như vậy, và những lựa chọn tạo ra chính là nguyên liệu thô.

Thu thập đủ nhiều lựa chọn này, bạn có thể huấn luyện một mô hình thứ hai để dự đoán con người sẽ thích đoạn văn nào trong hai đoạn văn. Mô hình thứ hai này đầu ra một con số. Và một con số chính là thứ duy nhất còn thiếu suốt thời gian qua.

Hãy nhìn kỹ xem ở đây đang xây dựng cái gì, vì rất dễ bỏ qua. Điểm số được tối ưu hóa không phải là về sự thật của thế giới. Nó là về mô hình của chúng ta. Đó là một sự nén và mô phỏng đã học được từ các phán đoán của một nhóm người cụ thể, những người được thuê vào một thời điểm nhất định, làm việc theo các hướng dẫn cụ thể, và cũng mệt mỏi vào buổi chiều như mọi người khác. CASP đánh giá dự đoán dựa trên hiện thực vật lý được xác định bởi phòng thí nghiệm, trong khi hệ thống này đánh giá văn bản dựa trên hình ảnh thống kê được con người công nhận.

Hình ảnh này là hữu ích. Nhưng nó cũng tất yếu là một sự xấp xỉ, có sự khác biệt giữa nó và đối tượng được mô tả, và không ai hoàn toàn hiểu rõ những khác biệt đó. Bất kỳ điều gì về sở thích thực tế của chúng ta mà mô hình ưa thích của chúng ta không thể nắm bắt được đều không nằm trong mục tiêu, do đó sẽ không được tối ưu hóa, và vì vậy sẽ bị ảnh hưởng bởi bất kỳ tình huống nào – và bộ tối ưu mạnh mẽ không có lý do gì để bảo vệ lượng này.

Đây là một sự thật về việc xây dựng, và khi nêu ra ở đây, không hề tuyên bố gì về mức độ nghiêm trọng của các hệ quả. Điểm chính hiện tại hẹp hơn và khó phản bác hơn. Những danh mục không thể đánh giá thực ra nhỏ hơn những gì trông thấy. Nếu một lĩnh vực kháng cự việc đo lường, có thể xây dựng một phép đo dựa trên sở thích con người và tiếp tục tiến hành. Hàng phòng thủ này chỉ hiệu lực khi chưa ai nghĩ đến việc tạo ra điểm số.

Điều này đặt ra một câu hỏi thực tế và một câu trả lời khả thi.

Chọn bất kỳ hoạt động nào bạn thích: một công việc, một nghề thủ công, một nghề nghiệp, hay một nhiệm vụ mà bạn đã dành nhiều năm để học và làm tốt. Hãy đặt ba câu hỏi.

Đầu tiên, thành công và thất bại có thể được phân biệt một cách đáng tin cậy không? Không hoàn hảo, và không phải ai cũng làm được, nhưng đủ nhất quán để những người đánh giá có năng lực thường xuyên đồng ý với nhau. Trò chơi vượt qua tiêu chí này một cách dễ dàng. Dự đoán cấu trúc protein vượt qua tiêu chí này vì các phòng thí nghiệm cuối cùng sẽ tạo ra câu trả lời. Viết lách không vượt qua tiêu chí này một cách tuyệt đối, nhưng vượt qua ở mức tương đối, vì mọi người thường có thể nói được lần thử nào tốt hơn trong hai lần thử.

Thứ hai, liệu việc phán đoán này có thể được tạo ra với chi phí thấp và quy mô lớn không? Câu hỏi này quyết định thời điểm, chứ không phải khả năng. Một phán đoán miễn phí và tức thì, ví dụ như trong trò chơi, có nghĩa là hệ thống có thể tự tạo ra hàng triệu dữ liệu huấn luyện. Một phán đoán yêu cầu phòng thí nghiệm thì chậm hơn nhưng vẫn khả thi, với hồ sơ đánh giá đã tích lũy trong ba mươi năm. Một phán đoán yêu cầu con người trả tiền để đọc văn bản thì rất tốn kém, và đó chính là lý do vì sao đã có rất nhiều nỗ lực được đầu tư để huấn luyện mô hình bắt chước những con người này và loại bỏ họ khỏi vòng lặp.

Thứ ba, vấn đề không phải là một lĩnh vực sẽ sụp đổ khi nào, mà là điều gì sẽ xảy ra sau đó: điểm số này có thực sự là thứ bạn muốn không? Điểm số trong trò chơi là thứ bạn muốn, vì trong trò chơi, chiến thắng về mặt định nghĩa là toàn bộ ý nghĩa. Cấu trúc protein được đo lường qua thí nghiệm rất gần với thứ bạn muốn. Một mô hình học dựa trên sở thích của người gán nhãn không phải là thứ bạn muốn. Đó là bức chân dung của thứ bạn muốn, và giữa bức chân dung và khuôn mặt thực sự tồn tại một khoảng cách.

Hãy tự kiểm tra công việc của bạn bằng ba câu hỏi này. Hầu hết mọi người thấy câu trả lời cho câu hỏi đầu tiên đến rất nhanh và khiến họ lo lắng. Hầu hết những gì chúng ta gọi là kỹ năng, ít nhất về mặt tương đối, đều có thể được đánh giá khi người có năng lực xem hai lần thử nghiệm cạnh nhau. Câu hỏi thứ hai là nơi chứa đựng sự không chắc chắn thực sự, vì chi phí và quy mô là những mục tiêu di động và chúng đã di chuyển theo một hướng trong một thời gian dài. Câu hỏi thứ ba là câu hỏi mà gần như không ai đặt ra, và nó quyết định lĩnh vực của bạn ở phía bên kia trông như thế nào.

Nên thực hành dần dần những việc thông thường. Lấy lĩnh vực chẩn đoán hình ảnh làm ví dụ. Có thể phân biệt được thành công và thất bại không? Có, và rất chính xác, vì chẩn đoán cuối cùng sẽ được xác nhận hoặc bác bỏ bởi tình trạng của bệnh nhân. Có thể tạo ra điểm số một cách chi phí thấp và quy mô lớn không? Về cơ bản là có, vì các bệnh viện đã tích lũy hàng ngàn mẫu điểm số dưới dạng hình ảnh và kết quả xác nhận trong nhiều thập kỷ. Điểm số này có phải là điều bạn muốn không? Câu trả lời ở đây trở nên phức tạp, vì điểm số được đánh giá dựa trên mức độ nhất quán với chẩn đoán được ghi lại, trong khi điều bạn thực sự mong muốn là tình trạng bệnh nhân tốt lên; hai điều này thường trùng nhau, nhưng lại tách rời ngay trong những trường hợp quan trọng nhất.

Hãy lấy một thứ trông có vẻ an toàn hơn—ví dụ như quản lý. Vấn đề đầu tiên đã rất khó, vì những người có năng lực không đồng thuận về việc một nhà quản lý cụ thể có xuất sắc hay không, và sự bất đồng này sẽ không nhanh chóng được giải quyết. Vấn đề thứ hai khó hơn nữa, vì kết quả của các quyết định quản lý chỉ xuất hiện sau nhiều năm, và bị rối loạn với mọi thứ khác xảy ra trong khoảng thời gian đó. Vấn đề thứ ba khó nhất, vì bất kỳ chỉ số thay thế nào được đưa ra để đo lường quản lý tốt—từ tỷ lệ giữ chân đến điểm cam kết đến năng suất trên đầu người—rõ ràng đều không phải là bản thân vấn đề. Theo chẩn đoán này, quản lý không an toàn vì nó sâu sắc. Nó không được đo lường—đó là một dạng bảo vệ khác, ít hấp dẫn hơn.

Máy móc đã chiếm lĩnh trục tối ưu. Trên bất kỳ mục tiêu nào được xác định rõ ràng, với đủ sức tính toán, việc tìm kiếm các nước đi tốt không còn là cuộc cạnh tranh nữa, và kết quả thường không chỉ mạnh hơn chúng ta, mà còn kỳ lạ hơn, dẫn đến những nơi mà truyền thống của chúng ta dạy đừng nhìn vào. Đây không phải là dự đoán. Đây là mô tả về cờ vua, cờ vây, cờ shogi, cấu trúc protein và ngày càng nhiều thứ từng nằm trong danh sách những việc chỉ con người mới có thể làm.

Phần còn lại là mục tiêu本身. Có người đã quyết định điểm số là gì. Trong mỗi trường hợp nêu trên, quyết định đó đã mất một buổi chiều, và mỗi kết quả phi thường đều xuất phát từ nó, trung thành với nó, và không quan tâm đến bất kỳ điều gì bị bỏ sót.

Vì vậy, câu hỏi cuối cùng đáng để suy ngẫm. Trong công việc của bạn, đã có điểm số chưa? Nếu có, ai đã viết nó, và khi họ viết, họ có nghĩ đến bạn không?

Đây là phần thứ hai của chuỗi "Whatever You Ask For", về những gì máy móc cuối cùng cần từ chúng ta và chúng ta đã làm tệ đến mức nào.