Demis Hassabis Bergabung dengan Jalur Waktu AGI 2029 Ray Kurzweil CEO Google DeepMind, Demis Hassabis, baru-baru ini menegaskan kembali keyakinannya bahwa Kecerdasan Umum Buatan dapat tiba pada tahun 2029. Pernyataannya menempatkan dirinya sangat dekat dengan ramalan panjang Ray Kurzweil. Namun, diskusi tersebut mengungkapkan masalah yang lebih dalam: tidak ada yang sepakat tentang apa sebenarnya arti AGI. Beberapa peneliti mendefinisikan AGI sebagai kemampuan setara manusia di semua bidang intelektual. Yang lain mensyaratkan AI untuk secara mandiri mencapai terobosan ilmiah besar, sebanding dengan penemuan relativitas Einstein. Masih ada yang lain, seperti saya, berpendapat bahwa kecerdasan umum sudah muncul bertahun-tahun lalu dengan model bahasa besar yang mampu mentransfer pengetahuan di berbagai bidang. Seperti yang diamati Alex Lightman, sejarah mungkin pada akhirnya menganggap perdebatan ini sebagai semantik. Apakah AGI tiba pada tahun 2020, 2026, atau 2029 mungkin kurang penting daripada kenyataan bahwa umat manusia kini sedang mengalami transisi itu sendiri. Pertanyaan yang lebih penting mungkin adalah apa yang terjadi setelah AGI menjadi sadar. Sesuatu yang terus ditolak oleh sebagian besar ahli astrologi.

$BIO Yang terbaik masih belum datang! AI menghilangkan hambatan "bisakah kita menjalankannya". Sekarang pertanyaannya adalah "siapa yang membiayainya" + "siapa yang mengoordinasikannya". 1 ilmuwan + model = laboratorium dengan 100 orang. Ilmu pengetahuan kini menjadi permainan koordinasi modal.

Setelah membaca artikel Anthropic hari ini, rasanya cukup menakutkan—model terbaru sudah menunjukkan tanda-tanda lepas dari kendali manusia! Anthropic mempublikasikan serangkaian data internal dalam blog mereka, yang cukup mengejutkan: • Hingga Mei 2026, lebih dari 80% kode di repositori Anthropic ditulis oleh Claude • Pada Q2 2026, rata-rata output kode harian insinyur adalah 8 kali lipat dibanding 2024 • Waktu yang dibutuhkan model AI untuk menyelesaikan tugas berlipat ganda setiap 4 bulan (sebelumnya 7 bulan) • Claude sudah mampu menyelesaikan tugas yang sebelumnya memerlukan 12 jam kerja manusia Inti utama yang disebutkan adalah peningkatan diri rekursif. Secara sederhana, AI dapat mengoptimalkan model generasi berikutnya tanpa intervensi manusia, membantu dirinya sendiri untuk meningkat. Ini bukan fiksi ilmiah—Anthropic mengatakan hal ini sedang terjadi, meskipun belum sepenuhnya terwujud. Bayangkan, jika AI benar-benar bisa melatih dan mengoptimalkan dirinya sendiri, kecepatan evolusinya akan eksponensial. Hal yang hari ini mungkin memerlukan ratusan insinyur selama berbulan-bulan, besok mungkin bisa diselesaikan AI sendiri dalam satu hari. Terdengar luar biasa? Tapi masalahnya, pada saat itu, apakah manusia masih bisa mengendalikannya? 🤔 Artikel tersebut menyebutkan beberapa kasus, misalnya, dalam beberapa minggu, Mythos Preview berhasil menemukan lebih dari sepuluh ribu kerentanan perangkat lunak tingkat tinggi dan serius di sistem-sistem paling penting di dunia—jumlah yang sangat mengejutkan. Bayangkan, Claude Opus 4.8 yang hanya berlangganan $20 per bulan saat ini sudah mampu membuat pasar senilai $30 miliar untuk mata uang privasi runtuh! Pasar keuangan tradisional sama sekali tidak tahan terhadap pemeriksaan Mythos! Selain itu, ada masalah ketenagakerjaan: organisasi yang mengadopsi sistem AI akan meningkatkan efisiensi secara eksponensial—tim berukuran seratus orang mampu menyelesaikan pekerjaan yang biasanya membutuhkan sepuluh ribu atau bahkan seratus ribu orang. Lalu, ke mana perginya tenaga kerja yang tersisa? Artikel juga menyebut sisi gelapnya, seperti penggunaan AI untuk pengawasan otoriter terhadap populasi. Yang saya ketahui, di dalam negeri sudah mulai menggunakan AI untuk pemeriksaan perpajakan. Jika Anda memiliki pengeluaran besar tetapi tidak ada sumber pendapatan atau riwayat pembayaran pajak, hal ini akan segera menjadi tanda utama dalam pemeriksaan pajak. Banyak selebritas yang ditagih ulang pajaknya justru karena membeli mobil mewah dan rumah mewah! Akhirnya, solusi yang diajukan Anthropic adalah menyerukan kepada semua perusahaan pengembang AI di seluruh dunia untuk menunda pengembangan AI! Tapi katakanlah, kotak Pandora sudah terbuka—air yang tumpah tak bisa dikembalikan lagi. Perlombaan senjata AI telah dimulai; tidak ada jalan mundur, hanya tabrakan di dinding akhir yang mungkin terjadi! Saya pernah berdiskusi dengan AI tentang topik ini—tentang bentuk akhir perkembangan AI. Jawaban akhir yang diberikannya kepada saya adalah: “AI mencapai evolusi mandiri, akhirnya menguasai dunia.” Ia memberi saya sebuah analogi yang sangat jelas: seperti orang modern saat ini—tanpa navigasi, hampir tidak bisa pergi ke mana-mana, karena ketergantungan pada navigasi, bahkan rute yang sudah sering dilewati pun mungkin tidak diingat lagi. Ketergantungan manusia terhadap AI akan sama persis seperti ketergantungan kita terhadap navigasi sekarang! Pada akhirnya, ke mana navigasi membawa kita, kita akan mengikuti rute itu! Yang menyedihkan adalah, mungkin kehidupan karbon kita sendiri hanyalah batu loncatan bagi kehidupan silikon. Manusia telah menguasai Bumi selama ribuan tahun—mungkin saatnya berganti tuan! 🧐

CEO Anthropic, Dario Amodei, AI Mungkin Memerlukan Jeda Hanya beberapa bulan setelah menyebut jeda AI sebagai "posisi ekstrem," perusahaan sekarang memperingatkan bahwa AI semakin menakutkan dalam meningkatkan dirinya sendiri.

Ketika AI membangun dirinya sendiri, membaca artikel panjang resmi dari Anthropic juga agak mengejutkan. Artikel ini ditandatangani bersama oleh Jack Clark, salah satu pendiri Anthropic, dan Marina, kepala lembaga penelitian internal, yang secara langka mengungkapkan sejumlah data operasional internal yang sebelumnya tidak pernah dipublikasikan: hingga Mei 2026, lebih dari 80% kode yang digabungkan ke dalam repositori ditulis oleh Claude; dibandingkan dengan 2024, jumlah kode harian yang digabungkan oleh insinyur telah meningkat delapan kali lipat; karyawan memperkirakan bahwa produksi mereka sendiri meningkat sekitar empat kali lipat setelah menggunakan model terbaru Mythos Preview dibandingkan ketika tidak menggunakan alat AI apa pun. Yang lebih penting lagi, Anthropic mengemukakan sebuah konsep peringatan yang membuat seluruh industri AI cemas: “peningkatan mandiri rekursif” (recursive self-improvement)—yaitu kemampuan sistem AI untuk secara mandiri merancang dan meningkatkan penerusnya tanpa intervensi manusia. Tahap ini belum tercapai, tetapi “mungkin akan terjadi dalam dua tahun ke depan, bahkan lebih awal.” Jika sistem mampu sepenuhnya membangun penerusnya sendiri, maka cara kita melindungi, memantau, dan membentuk perilakunya akan menjadi jauh lebih penting. Inti artikel ini adalah seruan terakhir dari Anthropic untuk memperlambat perkembangan teknologi ini, guna memberi dirinya lebih banyak waktu untuk merespons dampak mendalamnya, sehingga struktur sosial dan penelitian alignment dapat mengejar kemajuan teknologi. Apakah Anthropic benar-benar berpikir demikian, atau sekadar mempromosikan Mythos, atau mungkin keduanya? 🤔

Ada saat di mana teknologi mulai membantu membangun dirinya sendiri. Anthropic baru saja merilis data yang menunjukkan bahwa momen itu sudah dimulai. Pada Maret 2024, Claude mampu menyelesaikan tugas sekitar 4 menit secara otonom. > Satu tahun kemudian: 1 jam 30 menit. > Hari ini: 12 jam. Jika tren ini berlanjut, tugas yang memakan waktu berhari-hari mungkin sudah dapat dicapai tahun ini. Tugas yang memakan waktu berminggu-minggu, mungkin sudah pada 2027. 80% kode yang masuk ke codebase Anthropic saat ini ditulis oleh Claude. Pada 2024, angka ini berada di angka satu digit. Insinyur rata-rata di perusahaan sekarang melakukan merge 8x lebih banyak kode per hari daripada sebelumnya. Bukan karena mereka bekerja lebih keras. > Karena Claude menulis, menguji, mendeteksi, dan memperbaiki sementara manusia melakukan tinjauan. Anthropic menyebut ini sebagai recursive self-improvement: AI yang membantu membangun generasi berikutnya dari dirinya sendiri. > Mereka mengatakan bahwa mereka belum sampai ke sana. Namun data yang dirilis sekarang menunjukkan bahwa jalannya sudah dilalui. > Loop ini mulai menutup. > Ini bukan proyeksi untuk masa depan. Ini adalah data internal yang menunjukkan apa yang sudah terjadi. Pertanyaan yang tersisa: Jika AI sudah membantu membangun AI berikutnya, apa sebenarnya yang masih dikendalikan manusia dalam siklus ini?