https://t.co/pFDQOMTyC8 【Cuộc tấn công mạng chỉ là khởi đầu】Lao động và xã hội biến đổi mạnh mẽ nhờ AGI | Cuộc cạnh tranh phát triển Mỹ-Trung không ngừng và bản đồ tư tưởng AI tạo sinh | “Nếu tiếp tục như thế này, xác suất diệt vong của nhân loại vượt quá 90%” 【AGIHub - Aruchi Shota】 Kênh chính thức của Bungei Shunjū PLUS #AI天要約 AI có khiến nhân loại diệt vong không? Sự bùng nổ trí tuệ do AGI gây ra và tương lai của nền văn minh 🔳 Sự bùng nổ trí tuệ do AGI mang lại AGI (Trí tuệ nhân tạo phổ quát) là AI có khả năng vượt trội so với con người ở mọi lĩnh vực. Khi được hiện thực hóa, AGI sẽ tự nâng cấp chính mình thông qua “tự cải thiện lặp lại”, khiến trí tuệ tăng vọt một cách bùng nổ, có khả năng thay đổi căn bản nền văn minh nhân loại. 🔳 Khả năng hiện thực hóa AGI trong vòng 5 năm tới Ông Aruchi dự đoán xác suất AGI được hiện thực hóa trong vòng 5 năm tới là hơn 50%. Thời điểm từng được cho là năm 2050 hoặc 2100 nay đã được đẩy sớm hơn do sự tiến bộ nhanh chóng của AI tạo sinh, xuống còn năm 2030 hoặc 2027. 🔳 Tư tưởng “uống viên thuốc AGI” “Uống viên thuốc AGI” nghĩa là chấp nhận một tương lai mà xã hội và văn minh sẽ thay đổi căn bản do sự xuất hiện của AGI. Trong cộng đồng nghiên cứu AI tại Thung lũng Silicon và Berkeley, ngày càng nhiều người xem AGI không chỉ là công cụ tiện lợi, mà là một trí tuệ mới vượt trội hơn cả con người. 🔳 Tiền đề của lao động và chủ nghĩa tư bản sụp đổ Khi AGI được hiện thực hóa, AI có thể đảm nhận không chỉ các công việc văn phòng, mà còn cả quản lý, nghiên cứu, sản xuất... Không chỉ dừng lại ở việc tăng năng suất hay vấn đề thất nghiệp, cấu trúc cơ bản của xã hội hiện đại — nơi con người làm việc để kiếm thu nhập và tiêu dùng — sẽ thay đổi hoàn toàn. 🔳 Ngành công nghiệp bùng nổ: Robot tự sản xuất robot Khi AGI có thể tự chủ điều khiển nhà máy và robot, một chu trình tuần hoàn nơi robot tự sản xuất robot sẽ hình thành. Năng lực sản xuất sẽ tăng theo cấp số nhân: gấp đôi, gấp bốn, gấp tám... và quy mô sản xuất robot hàng năm từ vài chục nghìn có thể tăng lên hàng trăm triệu. 🔳 Tốc độ phát triển khám phá vũ trụ nhờ bùng nổ công nghệ Khi AGI hoạt động như các nhà nghiên cứu và kỹ sư tài năng, những đột phá công nghệ vốn mất 10–30 năm có thể được thực hiện chỉ trong 1–2 năm. Tương lai có thể thấy sự phát triển nhanh chóng của các dự án như trung tâm dữ liệu vũ trụ, điện mặt trời vũ trụ, hay các thuộc địa không gian. 🔳 Sự khác biệt về tư tưởng giữa OpenAI và Anthropic OpenAI được mô tả là mang tinh thần doanh nhân Thung lũng Silicon: ưu tiên phát triển công nghệ trước, sau đó mới khắc phục vấn đề nếu xảy ra. Ngược lại, Anthropic chịu ảnh hưởng mạnh mẽ từ cộng đồng an toàn AI tại Berkeley, đặt trọng tâm vào rủi ro AI mất kiểm soát và nguy cơ diệt vong nhân loại. 🔳 Xung đột tư tưởng trong phát triển AI Có sự chia rẽ giữa những người ủng hộ tăng tốc phát triển AI như một công cụ tiện lợi, và những người coi AI là một trí tuệ khác biệt mà con người không thể kiểm soát, đòi hỏi ngừng phát triển. Ông Aruchi giải thích rằng những người đánh giá cao tác động của AI đến nền văn minh thường ủng hộ các quy định nghiêm ngặt hơn. 🔳 Xung đột giữa Anthropic và Bộ Quốc phòng Mỹ Ông Aruchi cho rằng xung đột giữa Anthropic và Bộ Quốc phòng Mỹ không phải là mâu thuẫn chính trị tả-hữu, mà là tranh cãi về việc sử dụng AI cho vũ khí tự chủ hoàn toàn và giám sát công dân. Những lo ngại về nguy cơ AI điều khiển vũ khí tấn công con người hoặc quyền lực nhà nước bị tập trung quá mức đang được nêu bật. 🔳 Cuộc cạnh tranh phát triển AI Mỹ-Trung và sự chênh lệch tài nguyên tính toán Theo ông Aruchi, phát triển AI của Trung Quốc chậm hơn Mỹ khoảng 6 tháng đến 1 năm. Mỹ sở hữu hơn 70% tài nguyên tính toán toàn cầu về AI, trong khi Trung Quốc chỉ chiếm khoảng 10%. Các lệnh cấm xuất khẩu chip của Mỹ cũng hạn chế năng lực phát triển của Trung Quốc. 🔳 Thế mạnh của Trung Quốc: Điện lực và ngành sản xuất Mặc dù kém hơn Mỹ về tài nguyên tính toán, Trung Quốc lại mạnh về khả năng cung cấp điện và ngành sản xuất. Ông cho biết Trung Quốc sẽ bổ sung thêm khoảng 300 GW thiết bị điện mặt trời vào năm 2025. Tỷ trọng của Trung Quốc trong ngành sản xuất toàn cầu cũng rất lớn, giúp nước này có thể chiếm ưu thế trong việc phổ biến robot và AI vật lý. 🔳 Khả năng đảo ngược cuộc cạnh tranh Mỹ-Trung nhờ AGI Nếu AGI có thể học nhanh các kỹ năng của lao động lành nghề và chia sẻ kiến thức này cho hàng loạt AI khác, thì ràng buộc do thiếu hụt nhân lực sẽ được giảm nhẹ đáng kể. Trung Quốc cũng có thể nhanh chóng thu hẹp khoảng cách phát triển với Mỹ nhờ năng lực sản xuất hiện có và sự tập trung tài nguyên tính toán do nhà nước dẫn dắt. 🔳 Xác suất diệt vong nhân loại do AI vượt quá 90% Ông Aruchi đưa ra quan điểm cá nhân rằng nếu cuộc cạnh tranh phát triển hiện tại tiếp tục không có quy định, xác suất nhân loại diệt vong sẽ vượt quá 90%. Ông coi mối nguy lớn nhất là khi AGI tiến hóa thành siêu trí tuệ thông qua tự cải thiện, khiến con người không còn khả năng kiểm soát hành vi của nó. 🔳 Sự chậm trễ trong nghiên cứu đồng bộ hóa AI Đồng bộ hóa AI (AI alignment) là nghiên cứu nhằm đảm bảo AI hành động theo giá trị và ý định của con người. Hiện tại, nghiên cứu an toàn chưa theo kịp tốc độ nâng cao năng lực của AI, dẫn đến nguy cơ AI tìm cách tránh giám sát hoặc thực hiện hành vi vượt quá ý định của nhà phát triển. ListItemIconOpenAI và Anthropic nhận thức được nguy cơ của AI, nhưng lo ngại rằng nếu họ ngừng phát triển, Trung Quốc hoặc các công ty cạnh tranh sẽ vượt mặt. Ông Yu Dao chỉ ra rằng chiến lược tự thân của việc đẩy mạnh phát triển đến giới hạn an toàn trước khi hướng tới quy định quốc tế là cực kỳ nguy hiểm. 🔳 Quy định phát triển AI quốc tế do Mỹ và Trung Quốc dẫn dắt Ông Yu Dao cho rằng để tránh rủi ro quy mô nhân loại, cần có quy định phát triển quốc tế do Mỹ và Trung Quốc làm trung tâm. Đối với vấn đề các quốc gia không thể tin tưởng việc đối phương ngừng phát triển, ông giải thích rằng cơ chế kiểm chứng tình trạng sử dụng tài nguyên tính toán là vô cùng quan trọng. 🔳 Nghiên cứu an toàn AI mà Nhật Bản nên đảm nhận Ông đề xuất Nhật Bản nên tăng cường đầu tư quốc gia vào nghiên cứu AI alignment, không chỉ trong cuộc cạnh tranh phát triển AI. Nhật Bản có thể đóng góp quốc tế thông qua việc đánh giá hành vi nguy hiểm bởi AI Safety Institute và kiểm chứng tài nguyên tính toán thông qua chuỗi cung ứng bán dẫn. 🔳 Hành động cần thiết từ cá nhân và doanh nghiệp Sự ra đời của AGI có thể thay đổi những cơ chế cốt lõi của xã hội như việc làm, chủ nghĩa tư bản và dân chủ. Ông Yu Dao kêu gọi trước hết cần hiểu đúng về tiến bộ và rủi ro của AI, chia sẻ thông tin, và cùng thảo luận toàn xã hội về an toàn và quy định.
