Thinking Machines phát hành mô hình nguồn mở Inkling-Small với tổng tham số 276 tỷ và tham số kích hoạt 12 tỷ, sử dụng kiến trúc MoE và thiết kế đa phương tiện bản địa. Mô hình này chỉ cần một phần tư quy mô nhưng đã vượt qua phiên bản đầu tiên của Inkling trong các bài kiểm tra chuẩn về toán học, suy luận và mã hóa tác nhân. Hiệu suất vượt trội đạt được thông qua quá trình tinh luyện và huấn luyện học tăng cường trong hai tuần, giúp giảm đáng kể rào cản suy luận, cho phép các đội ngũ trung bình có thể tùy chỉnh mô hình. Dù sáu đồng sáng lập đã rời đi bốn người, nhóm vẫn duy trì nhịp độ phát hành thường xuyên trong bối cảnh bất ổn.

Tác giả bài viết, nguồn: 36Kr

Thinking Machines ra mắt mô hình nguồn mở Inkling-Small vượt trội hơn phiên bản đầu tiên

Sau khi mô hình đầu tiên Inkling ra mắt, một AI mới lại đang làm mưa làm gió!

Hôm nay, Thinking Machines chính thức ra mắt mô hình trọng điểm thứ hai — Inkling-Small.

276 tỷ tham số tổng thể, 12 tỷ tham số kích hoạt, đa mô hình bản địa, ngữ cảnh 1 triệu token

Hai tuần trước, Inkling 975B đầu tiên mở nguồn đã xuất hiện và gây ra làn sóng lớn trong cộng đồng AI.

Inkling-Small chỉ sử dụng một phần tư khối lượng, trực tiếp vượt qua hiệu năng của “người anh em khổng lồ nghìn tỷ”.

Trên ARC-AGI-2, Inkling-Small đã thiết lập SOTA mới cho mã nguồn mở

Xem lại vài ngày qua của Thinking Machines, cốt truyện thực sự đầy biến động.

Chỉ hai ngày sau khi đồng sáng lập Ô Lệ công bố rời đi, OpenAI đã xác nhận sự trở lại của cô — dẫn đầu đội ngũ thúc đẩy dự án “Tự cải thiện lặp lại” (RSI).

Kết quả là ngay ngày thứ ba, công ty vừa mất đi một nhân vật cốt lõi đã tung ra ngay lập tức "trọng số đầy đủ" của mô hình mới.

Inkling-Small phiên bản mới ra mắt, 276B đánh bại nghìn tỷ

Trong giới thiệu trên tài khoản chính thức, Inkling-Small là một mô hình kiến trúc MoE với tổng tham số 276 tỷ và kích hoạt 12 tỷ tham số mỗi lần suy luận.

So với thế hệ đầu tiên của Inkling, kích thước đã được thu nhỏ trực tiếp xuống còn một phần tư.

Như Horace He, bậc thầy của Pytorch, đã nói: “Inkling-Small hoàn toàn không cần huy động cả làng, chỉ cần tiếp tục sử dụng công nghệ thế hệ trước là được.”

Điều đáng chú ý nhất là dù quy mô đã thu nhỏ, nhưng tổng thể năng lực đã được nâng cao đáng kể.

Trong các bộ chuẩn về toán học, suy luận, mã hóa tác nhân và đa phương thức, Inkling-Small sánh ngang, thậm chí còn vượt trội hơn Inkling và DeepSeek V4 Flash.

Trên ba chỉ số cốt lõi HLE, Terminal-Bench và IFBench—Inkling-Small mang lại hiệu năng cao hơn mỗi FLOP so với Inkling.

Có thể thấy, đường cong của Inkling-Small luôn nằm dưới đường cong của Inkling.

Bên đa mô态 cũng gần như không bị tụt lại, với khả năng hiểu biểu đồ, suy luận thị giác, hiểu âm thanh và suy luận âm thanh dài, Inkling-Small trong các bài đánh giá “gần bằng” bản gốc nhưng chi phí thấp hơn nhiều.

Các kết quả kiểm tra hiệu năng khác như sau:

Một mô hình chỉ bằng một phần tư kích thước đã đánh bại người anh em lớn hơn của nó trong các nhiệm vụ suy luận và tác nhân.

Về cách thực hiện, chính thức đã viết rất chi tiết, trọng tâm là hai bước.

Thời gian bắt đầu huấn luyện Inkling-Small muộn hơn Inkling, nên đã hấp thụ hết tất cả những lỗi đã gặp ở vòng trước—

Tỷ lệ dữ liệu tiền huấn luyện đã được thay đổi, công thức học máy đã được tinh chỉnh lại.

Quan trọng hơn, là hai thao tác.

Bước đầu tiên, dùng Inkling làm giáo viên để thực hiện distillation on-policy, trước tiên tạo một điểm kiểm tra preview.

Bước thứ hai, tác nhân đã tiếp tục huấn luyện học tăng cường trong suốt hai tuần liền kể từ điểm kiểm tra này, dẫn đến kết quả “học sinh vượt qua giáo viên”.

Chỉ trong hai tuần, đã thu hẹp khoảng cách và còn vượt lên dẫn đầu.

Điều này có nghĩa là Thinking Machines đã trực tiếp vận hành một dây chuyền sản xuất có thể liên tục tạo ra các mô hình. Mô hình đầu tiên là tác phẩm, mô hình thứ hai là bằng chứng về năng lực sản xuất.

12 tỷ kích hoạt mới là ranh giới thực sự

Đối với đa số nhà phát triển, điều thực sự quan tâm là họ có thể sử dụng được hay không?

Ngưỡng của Inkling bản gốc rất cao, yêu cầu tối thiểu cho checkpoint BF16 là 2TB bộ nhớ GPU tổng hợp—

Mẫu cấu hình là 8 chiếc B300 hoặc 16 chiếc H200; ngay cả khi chuyển sang phiên bản NVFP4 lượng tử hóa, cũng vẫn cần ít nhất 600GB.

Inkling-Small đã kéo toàn bộ mức ngưỡng này xuống một cách đáng kể.

LMSYS nói một cách trực tiếp: 276B tổng tham số với 12B kích hoạt là điểm lý tưởng cho học tăng cường, khiến LoRA và huấn luyện toàn tham số trở nên “có thể tiếp cận”.

Trước đây, chỉ những công ty lớn mới có thể tùy chỉnh mô hình, giờ đây, một đội ngũ quy mô trung bình cũng có cơ hội thực sự huấn luyện nó thành sản phẩm của riêng mình.

Thực nghiệm cho thấy, trong cùng một môi trường với 8 card B200, TP8, NVFP4 và batch size 1, khi chạy Inkling-Small bằng SGLang, bật DSparK đạt 648 tok/s, không bật vẫn đạt 288 tok/s.

Tháng Hai năm ngoái, Thinking Machines đã khởi đầu ấn tượng với danh sách sáu thành viên của "đội hình mơ ước của OpenAI":

Mira Murati, John Schulman, Barret Zoph, Ôn Lệ, Andrew Tulloch, Luke Metz.

Lúc đó, họ sở hữu kịch bản phi thường với vòng seed 2 tỷ USD và định giá 12 tỷ USD.

Ai có thể ngờ rằng, đợt huy động vốn định giá 50 tỷ USD vào tháng 1 năm nay cuối cùng đã thất bại, trở thành điểm khởi đầu cho sự chuyển biến.

Hiện tại, nhóm sáu người chỉ còn lại Murati và Schulman.

Điều thú vị hơn là trong số bốn người đã rời đi, Zoph và Metz lần lượt quay trở lại OpenAI, và giờ đây Ôn Lệ đã trở thành người thứ ba.

Một công ty được thành lập bởi những “người nổi loạn” của OpenAI, nhưng các thành viên cốt lõi cuối cùng vẫn không thể thoát khỏi trường hấp dẫn của OpenAI.

Nhưng điều thực sự đầy kịch tính là phản ứng của đội ngũ khi đối mặt với sự bất ổn.

Ngày 15 tháng 7, sau 17 tháng im lặng, Thinking Machines cuối cùng cũng công bố mô hình lớn đầu tiên của mình là Inkling.

Chưa đầy hai tuần, Ôn Lệ tuyên bố rời đi; chỉ ba ngày sau, mô hình nguồn mở thứ hai với trọng số đầy đủ lại tiếp tục ra mắt.

Nhân tài đang mất đi ngày càng nhanh, mô hình đang tăng tốc bùng nổ.

Hai đường cong đối lập này đã trở thành cảnh tượng đặc trưng nhất trong ngành AI.

Có lẽ đây chính là con đường tất yếu dẫn đến ASI: bất kể còn lại bao nhiêu người, bánh xe của máy móc sẽ càng quay càng nhanh.

Thinking Machines phát hành mô hình nguồn mở Inkling-Small với tổng tham số 276 tỷ và tham số kích hoạt 12 tỷ, sử dụng kiến trúc MoE và thiết kế đa phương tiện bản địa. Mô hình này chỉ cần một phần tư quy mô nhưng đã vượt qua phiên bản đầu tiên của Inkling trong các bài kiểm tra chuẩn về toán học, suy luận và mã hóa tác nhân. Hiệu suất vượt trội đạt được thông qua quá trình tinh luyện và huấn luyện học tăng cường trong hai tuần, giúp giảm đáng kể rào cản suy luận, cho phép các đội ngũ trung bình có thể tùy chỉnh mô hình. Dù sáu đồng sáng lập đã rời đi bốn người, nhóm vẫn duy trì nhịp độ phát hành thường xuyên trong bối cảnh bất ổn.

Nguồn bài viết: Newzhai