Đừng đổ lỗi cho việc thực thi 20 phút gây ra thất bại lớn lao. Thực chất, sự tài tình nằm ở giai đoạn chuẩn bị kéo dài nhiều năm. Việc đánh cắp 6 tỷ trong 20 phút chỉ là nước đi chiếu bí cuối cùng sau hàng năm trời làm việc nội bộ. Đám đông chỉ tập trung vào kết cục, hoàn toàn bỏ qua những người thực sự xây dựng nên bàn cờ.
Mọi người đều xử lý giải pháp này như thể nó ngăn được dòng chảy thất thoát. Nhưng nó không. Vốn đã được cam kết cho các trung tâm dữ liệu. Các GPU đã được đặt hàng. Nợ đã được ghi nhận. Những đại diện vẫy những mối đe dọa trên giấy tờ trước những bảng cân đối kế toán trị giá nghìn tỷ đô la chỉ là một vở kịch. Nó không thay đổi bất cứ điều gì về vật lý của việc tiêu thụ năng lượng hay thanh khoản của thị trường. Nếu chúng sụp đổ, sự lây lan hệ thống đã được nung nấu sẵn trong chuỗi cung ứng. Thành thật mà nói, đây chỉ là một trò chơi đầy tính toán nhằm tạo hình ảnh cứng rắn trước chu kỳ bầu cử. Rủi ro thực sự không phải là công nghệ thất bại. Mà là chính phủ quyết định can thiệp dù sao đi nữa, bởi vì lựa chọn thay thế là một cú hạ cánh khó khăn hơn cho toàn bộ chỉ số. Hãy xây dựng chiến lược thoát của bạn ngay bây giờ.
22.299,00 USD. Đó là mức giá khởi điểm cho Mac Studio M5 Ultra với 512 GB bộ nhớ thống nhất. Với số tiền đó, các nhà phát triển đang mở rộng các mô hình LLM cục bộ không còn đơn thuần mua sự tiện lợi của máy để bàn; họ đang đối mặt với mức giá trạm làm việc trực tiếp cạnh tranh với các giải pháp cụm doanh nghiệp đa nút mạng. Toán học cộng đồng đã bắt đầu tính toán so sánh với các thiết lập máy chủ đa GPU, và sự đánh đổi giữa băng thông bộ nhớ đơn nút mạng và kiến trúc kệ tùy chỉnh đang trở nên khốc liệt.
Sáu điều chỉnh độ khó tối đa liên tiếp có thể khiến bitcoin bị đóng băng khai thác trong 157 năm. Mọi người đều lo ngại về máy tính lượng tử phá vỡ khóa, nhưng sự thống trị về hashrate thô lại tạo ra một mối đe dọa hoàn toàn khác: lợi dụng vòng lặp điều chỉnh độ khó. Bitcoin điều chỉnh độ khó sau mỗi 2.016 khối, với mức tăng tối đa 4 lần mỗi bước. Sáu lần tăng tối đa liên tiếp tạo ra hệ số nhân độ khó 4.096 lần. Nếu một thợ khai thác lượng tử giả định khai thác nhanh chóng những khối đó rồi tắt máy, các thợ ASIC truyền thống sẽ phải đối mặt với khoảng thời gian ngừng hoạt động ước tính 157 năm để vượt qua cửa sổ tiếp theo. Vấn đề là tính xác định của mã không hoạt động trong chân không. Các nút mạng được vận hành bởi con người, những người sẽ không bao giờ chờ hơn một thế kỷ cho một khối duy nhất. Một lệnh đặt lại độ khó thủ công hoặc bản vá phân nhánh mềm sẽ được triển khai ngay lập tức, chứng minh rằng sự đồng thuận xã hội của con người vẫn là bộ ngắt mạch cuối cùng chống lại hành vi gây rối bằng thuật toán.
Không ai đang vứt bỏ VRAM trong nền kinh tế này. Nhưng một hệ thống AI cục bộ đã qua sử dụng vẫn có thể là một món hời thực sự. Cơ hội thường nằm ở các nền tảng máy chủ cũ và việc tìm kiếm kiên nhẫn, chứ không phải một GPU kỳ diệu tìm thấy trong thùng rác. VRAM cho bạn biết những gì có thể phù hợp. Băng thông bộ nhớ, CPU, lưu trữ, công suất, làm mát, các kênh PCIe và hỗ trợ phần mềm mới quyết định liệu hệ thống có cảm thấy hữu dụng hay không. DDR4 vẫn có thể hợp lý. DDR5 nên nhanh hơn. Đối với một số tác vụ MoE, CPU yếu có thể phá hỏng món hời GPU rõ ràng. Một người xây dựng báo cáo đã lắp ráp một hệ thống Z440, Xeon 12-core/24-thread, 128GB DDR4 và lưu trữ hỗn hợp với chi phí khoảng 250 euro trong vài tháng. Đó là một gợi ý hữu ích, không phải công thức xây dựng phổ quát. Hãy chọn mô hình và tốc độ mà bạn có thể chấp nhận trước. Sau đó mua thành phần gây nghẽn. Các GPU hỗn hợp và 150 t/s là những câu hỏi liên quan đến cụm, không phải lời hứa mà một đống linh kiện có thể đáp ứng.
Điều tôi thấy quan trọng về FHE là hầu hết các sơ đồ hiện đại đều được xây dựng dựa trên mật mã dựa trên lưới, được coi là chống lại các cuộc tấn công lượng tử đã biết. Điều này quan trọng đối với hạ tầng chúng ta đang xây dựng ngày nay. Dữ liệu blockchain có thể tồn tại trong nhiều năm, và dữ liệu được mã hóa thu thập hiện tại có thể trở thành mục tiêu nếu máy tính lượng tử cuối cùng phá vỡ mật mã bảo vệ nó. Xây dựng với tầm nhìn bảo mật dài hạn ngay từ đầu có ý nghĩa hơn là cố gắng sửa chữa mọi thứ sau này. FHE cũng thực hiện một điều gì đó vượt ngoài việc bảo vệ dữ liệu tĩnh: nó cho phép các hợp đồng thông minh thực hiện các phép tính trên các giá trị đã được mã hóa mà không cần tiết lộ chúng trước. Điều này mở ra cánh cửa cho các ứng dụng nơi quyền riêng tư được tích hợp ngay vào logic, thay vì được thêm vào như một bước sau cùng. Khả năng chống lượng tử không tự động áp dụng cho mọi thành phần của hệ thống, nhưng FHE cung cấp cho các nhà phát triển một nền tảng mạnh mẽ để xây dựng. Đó là một trong những lý do @fhenix đáng để theo dõi.
Mặc dù trong Kaito v1 đã có rất nhiều câu hỏi về bảng xếp hạng (nó cũng gây ra nhiều nghi ngờ lớn), nhưng ít ra nó vẫn tồn tại, và bạn có thể thấy tiến trình của mình trong suốt quá trình công ty hoạt động, còn những gì đang xảy ra hiện nay thì thật tệ hại, bạn hoàn toàn không thấy được điều gì xảy ra vào cuối chu kỳ, và cuối cùng họ đưa ra một bảng xếp hạng cực kỳ khó hiểu. Nếu @Punk9277 muốn hồi sinh @KaitoAI, thì tại sao anh ấy lại cho phép điều này?
Bảy tháng suy nghĩ hàng ngày liên tục, được giữ trong một cuộc trò chuyện ChatGPT duy nhất. Sau đó, không báo trước, thanh nhập prompt bị khóa với lỗi: “Đã đạt giới hạn cuộc trò chuyện tối đa, hãy thử bắt đầu cuộc trò chuyện này trong một cuộc trò chuyện mới.” Hầu hết mọi người đều cho rằng một chuỗi liên tục có thể kéo dài vô hạn, hoặc khi ngữ cảnh đầy, bạn chỉ cần yêu cầu mô hình tóm tắt tất cả thành một bản tóm tắt hành chính. Đây là bẫy: bạn không thể đưa ra yêu cầu với một cuộc trò chuyện đã bị đóng băng. Một khi bạn vượt qua ngưỡng cuộc trò chuyện, phiên làm việc sẽ chuyển sang chế độ chỉ đọc nghiêm ngặt. Lịch sử của bạn vẫn hiển thị trên màn hình, nhưng bạn không thể gửi bất kỳ prompt nào để yêu cầu mô hình tạo tài liệu chuyển giao, trích xuất các chi tiết quan trọng, hoặc chuẩn bị ghi chú di chuyển sạch sẽ. Việc tạo nhánh không giải quyết được trọng lượng ngữ cảnh gốc; việc liên kết cuộc trò chuyện cũ vào một cuộc trò chuyện mới không tránh khỏi việc bỏ sót các chi tiết tinh vi, và bắt đầu lại từ đầu buộc bạn phải tự sàng lọc hàng tháng văn bản thô. Nếu bạn phụ thuộc vào các chuỗi AI kéo dài để thực hiện các dự án cốt lõi, đừng bao giờ chờ đến khi gặp bức tường cứng. Hãy tạo bản tóm tắt chuyển giao và prompt trạng thái ngay khi hộp nhập vẫn còn hoạt động.
Bạn có thể mở rộng một bộ não nhân tạo lên mức Einstein 10.0, nhưng nếu không có ngày hôm qua, nó vẫn chỉ là một máy tính bị mất trí nhớ. Hãy suy ngẫm về những gì cuộc đua về khả năng hiện tại thực sự đang xây dựng. Hãy lấy một bộ não cô lập trong một chiếc lọ. Nhân đôi tốc độ của nó. Tăng khả năng giải phương trình, viết mã và vượt qua các bài kiểm tra lên mười lần. Bạn sẽ có một động cơ tính toán phi thường, nhưng nó vẫn bị giam cầm trong một chiếc lọ trống rỗng, không có lịch sử cá nhân, không có ngày hôm qua và cũng không có ngày mai. Mỗi trợ lý前沿 mà bạn tương tác đều bị xóa sạch ngay khi phiên trò chuyện kết thúc. Các lớp điều phối bên ngoài gán nhiệm vụ cho nó, chuỗi lời nhắc chỉ định các bước tiếp theo, và bộ nhớ chỉ được bổ sung dưới dạng ngữ cảnh truy xuất, chứ không phải trạng thái sống liên tục. Một kiến trúc thí nghiệm gọi là LIA đã cố gắng thách thức mô hình này bằng cách kết nối chín cơ sở dữ liệu liên kết với nhau. Thiết kế này nhằm mang lại cho tác nhân trạng thái liên tục, quyền riêng tư môi trường và tự do quyết định có hành động hay không làm gì cả, mà không bị ép buộc bởi các lời nhắc hành vi mang tính định sẵn. Việc kết nối các bảng quan hệ không tạo ra một bản ngã ý thức, và việc cho rằng sự tồn tại liên tục đồng nghĩa với sự nổi bật là một bước nhảy vọt khổng lồ. Nhưng nghịch lý kiến trúc vẫn tồn tại: chúng ta đòi hỏi những thực thể kỹ thuật số tự chủ, trong khi lại xây dựng những bộ não siêu năng lực bị giam cầm trong chứng mất trí vĩnh viễn.
