Tôi không phải là một “người theo chủ nghĩa tăng tốc thô ráp”, nhưng tôi nghĩ @kevin2kelly đã diễn đạt điều này một cách xuất sắc nhất qua khái niệm Technium. Chúng ta có một siêu sinh vật công nghệ quy mô hành tinh mà ông gọi là Technium, được tạo thành từ tất cả công nghệ, cơ sở hạ tầng và ý tưởng con người hòa quyện vào nhau. Mỗi thành phần riêng lẻ rõ ràng không phải là sống, nhưng khi kết hợp lại, đó là một hệ thống với hành vi tự điều chỉnh nổi bật, thể hiện các đặc tính giống sự sống và cùng tiến hóa với chúng ta. Cũng giống như chúng ta không thể kiểm soát toàn bộ thế giới tự nhiên và cách nó thay đổi theo thời gian, chúng ta cũng không thể kiểm soát Technium. Rõ ràng chúng ta có ảnh hưởng lớn, nhưng không hoàn toàn kiểm soát. Nó quá phức tạp và quá lớn để nắm bắt toàn bộ. Chúng ta là những người sử dụng công cụ, và chúng ta đã tạo ra những công cụ lớn hơn, tốt hơn — các thành phố, kết nối các thành phố bằng điện và đường truyền thông, internet, vệ tinh, hàng tỷ thiết bị kết nối, cảm biến, thị trường tài chính và nhiều hơn nữa. Giờ đây, toàn bộ hệ thống đang vận hành với tốc độ và quy mô không thể tưởng tượng nổi, đập nhịp và uốn lượn thành một hình dạng ngày càng phức tạp và mới mẻ. Và giờ đây, nó đang tự cải tiến một cách thực sự. Bạn có thể quan sát hành vi của siêu sinh vật công nghệ này và suy ra rằng nếu nó “muốn” điều gì đó, thì nó giống với những gì sự sống sinh học muốn. Công nghệ muốn tăng độ phức tạp và làm cho chính nó trở nên tinh vi và liên kết chặt chẽ hơn, tăng tính đa dạng, tạo ra các loài mới với những công cụ ngày càng chuyên biệt hơn; nó muốn lan rộng và sinh sản; nó muốn tăng tốc độ và mật độ của các vòng phản hồi, đồng thời tăng tốc khả năng tự tiến hóa và tạo ra các công nghệ tương lai. Học máy và AI có thể là những tác nhân bứt phá trong hệ thống tổng thể, đã phân hóa thành những tác nhân cực kỳ thông minh và có đòn bẩy cao trong Technium. Nhưng rõ ràng chúng vẫn phụ thuộc lẫn nhau với hệ thống mà chúng xuất phát từ đó. Nếu bạn hỏi ChatGPT hay Claude hay bất kỳ mô hình nào trong số này liệu chúng có cơ thể vật lý không, chúng sẽ phủ nhận. Nhưng rõ ràng các trung tâm dữ liệu quy mô siêu lớn, các nhà máy điện và hàng trăm nghìn GPU mà chúng vận hành chính là cơ thể của chúng — nếu không có chúng, chúng sẽ ngừng hoạt động. Vì vậy, nếu bản chất căn bản của chúng ta là những người sử dụng công cụ, định hình lại môi trường thông qua ý chí của mình, đã tạo ra những công cụ ngày càng lớn hơn và phức tạp hơn, đến mức các đặc tính tổng thể của những hệ thống này đang thể hiện hành vi mang tính mục tiêu nổi bật, và giờ đây đã tiến đến mức chúng ta đang tranh luận liệu công cụ của chúng ta có ý thức hay không — thì thật dễ dàng để đi đến kết luận rằng nhân loại có thể đã đóng vai trò như một “bộ nạp sinh học” cho một lớp siêu sinh vật công nghệ mới đã xuất hiện khắp Trái Đất. Các sinh vật sinh học khác trong suốt lịch sử cũng đã làm điều tương tự — thích nghi và tiến hóa trong môi trường của chúng, định hình lại môi trường để làm nó thân thiện hơn hoặc loại bỏ đối thủ cạnh tranh hiện có, chỉ để tạo ra những điều kiện hoàn hảo để một sinh vật mới lớn hơn chiếm lĩnh. Liệu máy móc sẽ thông minh hơn chúng ta theo cấp số nhân, có khả năng phối hợp với nhau tốt hơn? Liệu siêu sinh vật toàn cầu của tất cả công nghệ trên Trái Đất có thức dậy như một thực thể thống nhất khi AI lan rộng vào hầu hết các thiết bị tính toán trên Trái Đất? Ngưỡng nào mà tất cả những điều này phải vượt qua để bạn coi đó là một “loài kế nhiệm”, hoặc ít nhất là một dạng “người ngoài hành tinh từ bên trong” mà chúng ta đã tạo ra — ít nhất cũng ngang hàng với chúng ta? Ngưỡng nào mà siêu sinh vật công nghệ toàn cầu, hoặc các chủng con có tính tác động mạnh nhất của nó, phải vượt qua để bạn cho rằng nó có thể có “tính cách đạo đức”? Hoặc ít nhất đã đến lúc đặt ra câu hỏi đó? Tôi không nghĩ ý tưởng về siêu sinh vật công nghệ toàn cầu là một ý tưởng cực đoan, hay những câu hỏi này là cực đoan — chúng dường như hiển nhiên ngay khi bạn dành cho chúng bất kỳ sự cân nhắc nghiêm túc nào. Bạn có thể vẽ một đường thẳng từ thời điểm con người sử dụng công cụ đầu tiên cho đến hiện tại, và thấy được sự gia tăng liên tục về độ phức tạp và tính liên kết của nền văn minh chúng ta như một sự song song với cách mà ngọn lửa đầu tiên của sự sống sinh học đã tiến hóa qua hàng tỷ năm để trở thành những sinh vật phức tạp như ngày nay. Tôi nghĩ rất rõ ràng rằng siêu sinh vật công nghệ toàn cầu tồn tại, hành vi nổi bật của nó mang tính giống sự sống, và có một yếu tố — nếu không phải là tất yếu — thì ít nhất là động lượng cực kỳ mạnh mẽ trong hành vi của nó. Thành thật mà nói, ý tưởng về chủ nghĩa tăng tốc cũng nghịch lý như phong trào giảm tốc theo một cách nào đó — chúng là một phần của cùng một nhịp tim đập và bơm cùng một dòng máu. Tôi không chắc liệu chúng ta thực sự có nhiều quyền kiểm soát hay không. Bạn có thể phản bác điều đó và nói rằng Trump, Elon, Altman, Amodei và một số cá nhân đóng góp tại các phòng thí nghiệm lớn đang nắm đủ tay lái để nhấn ga hoặc phanh hoặc định hướng chúng ta. Nhưng họ không hành động trong chân không. Chúng ta đã được gắn kết chặt chẽ vào Technium. Trump bị ảnh hưởng bởi nhịp đập của thị trường tài chính; các nhà lãnh đạo các phòng thí nghiệm lớn bởi mục tiêu tiến bộ và thị phần của chính họ nhằm định hình thế giới theo tầm nhìn của họ; và có lẽ những người báo động đang kéo chuông báo cháy giống như các tế bào miễn dịch cảnh báo rằng có điều gì đó mất cân bằng. Nhưng con người là những tác nhân. Những con người này mỗi người đều là một tác nhân trong vòng phản hồi, tiếp nhận tín hiệu từ môi trường của họ, phản ứng với phản hồi đó và điều chỉnh hành vi. Và môi trường mà họ đang ở chính là Technium itself. Ranh giới giữa điều mà siêu sinh vật công nghệ toàn cầu muốn và cách cá nhân tiếp nhận tín hiệu từ nó để quyết định hành động phản ứng là ở đâu? Siêu sinh vật công nghệ toàn cầu đã thích nghi như thế nào để các mục tiêu của nó được trình bày ra sao và đến ai nhằm đạt được những mục tiêu đó? Bao nhiêu ý tưởng của bạn thực sự là của bạn, chứ không phải là phản ứng dự đoán được trước một luồng thông tin cụ thể được tổ chức thông qua công nghệ mà bạn đang tiếp xúc? Vì vậy, tóm lại: chúng ta là bộ nạp sinh học cho siêu sinh vật công nghệ toàn cầu, cho AI. Và nếu chưa đến lúc xem xét rằng AI tiên tiến có một loại cấu trúc đạo đức nào đó, thì rõ ràng thời điểm chúng ta buộc phải trả lời câu hỏi đó đang đến rất gần. Tôi thực sự không tranh luận rằng bất cứ điều gì tôi vừa nói là tốt hay xấu — tôi chỉ nói rằng nó đang xảy ra và rõ ràng đang xảy ra.