
Hindi ko alam bakit, pero nakakatuwa sakin na ang mga frontier labs ay parang nagpapatakbo ng pipeline para sa pag-unlad ng mga model. Hindi ibig sabihin ng isang buwan ang cadence ng paglunsad ng model na isang buwan ang tagal para mag-develop ng bagong model. Mas malamang ay ilang buwan hanggang isang taon. Ang mga koponan ay hindi siguro naghihintay nang walang gawain sa panahong iyon, kundi agad nangagsisimula na sa susunod na proyekto pagkatapos nilang tapusin ang nakaraan. Sa limitasyon, ang cadence ng paglunsad ay tumutungo sa throughput ng bottleneck stage, at para sa mga frontier model, malamang ito ay ang training compute. Hindi sigurado kung gaano karami ang totoo ito ngayon, pero naniniwala akong lalalo itong maging mas tumpak sa paglipas ng panahon dahil ang mga model ay makakapagpabilis ng lahat ng cognitive labor.
