7 situs MIL yang dibangun dengan AI di platform Lovable mengekspos data pribadi pengguna Data yang terekspos oleh situs-situs yang dibuat dengan AI mencakup hingga nomor paspor dan informasi pembayaran Ini adalah salah satu masalah terbesar dari “demokratisasi” rekayasa perangkat lunak. Membuat situs dalam hitungan menit melalui percakapan dengan AI memang mudah, tetapi banyak orang lupa akan aspek keamanan. Tidak heran kita melihat begitu banyak serangan peretasan. Ini adalah siklus yang saling memperkuat—tingkat AI saat ini begitu tinggi sehingga ia mampu menemukan bug yang telah tersembunyi selama bertahun-tahun dan tidak pernah ditemukan siapa pun. Namun, kemudahan yang lebih besar dalam membangun aplikasi juga membawa risiko baru. Orang yang membuat aplikasi atau situs dengan AI memiliki kewajiban untuk setidaknya melakukan beberapa tinjauan adversarial guna mencoba “menghancurkan” aplikasi sebelum meluncurkannya ke publik. Juga memiliki kewajiban untuk terus memelihara aplikasi—sesuatu yang dipahami oleh para profesional, tetapi tidak dipahami oleh mereka yang hanya vibecode. Perangkat lunak adalah sesuatu yang terus-menerus, itulah sebabnya ada pepatah “jangan rilis pada hari Jumat”. Karena Anda mungkin harus menghabiskan akhir pekan Anda memeriksa log. Saat ini, Anda benar-benar bisa membuat agen yang tugasnya hanya mengamati aplikasi, melakukan QA, dan membuka PR untuk hal-hal yang rusak. Ini sudah menjadi awal yang baik. Hanya saja, jangan sekali-kali meletakkannya ke produksi dan lupa bahwa Anda harus terus memelihara aplikasi tersebut.

Elon mengurangi batas penggunaan Grok Bot karena "biaya yang tidak berkelanjutan dibandingkan pendapatan" Awal dari akhir?

Di bot-bot saya, saya menerapkan aturan: masing-masing memiliki satu fungsi saja, mereka berkomunikasi satu sama lain dengan hierarki yang jelas, dan hanya yang memerlukan intervensi saya yang sampai kepada saya—selalu melalui satu saluran saja. Setiap agen harus tahu apa yang harus ia lakukan, apa yang boleh ia lakukan, dan apa yang tidak boleh ia lakukan. Bagian pertama menjelaskan hal minimum yang harus ia lakukan agar berguna dan memenuhi fungsinya. Bagian kedua menjelaskan cara melampaui itu dan menjadi lebih berguna serta berbeda. Bagian ketiga menjelaskan cara menghindari kesalahan atau melangkahi cakupan agen lain.

AI dari Anthropic menemukan kerentanan di Linux yang memungkinkan pihak luar mengambil kendali server melalui internet tanpa memerlukan kata sandi apa pun. Linux berjalan di belakang 63% situs web yang dapat diketahui sistemnya, dan kesalahan ini telah tersembunyi dalam kode selama sekitar 10 tahun. Nilai tingkat keparahan adalah 9,8 dari 10, dan Red Hat mengklasifikasikannya sebagai kritis. Dalam pengujian Anthropic, serangan membutuhkan sekitar 48 menit persiapan dan tambahan 5 menit untuk menguasai mesin. Perbaikan untuk Linux sudah tersedia sejak Oktober, tetapi hingga kemarin, Ubuntu masih mencantumkan semua versi sebagai rentan. Sekarang, titik lemahnya adalah mereka yang menunda pembaruan dan restart server. Kerentanan ini terletak pada cara Linux menangani koneksi baru melalui internet, yang merupakan jenis koneksi paling umum. Serangan yang ditunjukkan oleh Anthropic memanfaatkan fitur bernama MPTCP, yang memungkinkan satu koneksi menggunakan lebih dari satu jaringan sekaligus, dan program yang dibuat dengan Go, bahasa pemrograman, sudah memiliki fitur ini diaktifkan sejak versi 1.24, ketika sistem mendukungnya. Pengelola server: perbarui kernel segera setelah sistem Anda merilisnya dan lakukan restart. Menonaktifkan MPTCP membantu sementara, tetapi hanya mengurangi risiko karena kerentanan tetap ada pada koneksi biasa. Anthropic belum mempublikasikan serangan tersebut, dan belum ada laporan penggunaan nyata hingga kemarin, jadi mereka yang memperbarui hari ini akan berada di depan. Bayangkan berapa banyak lagi kerentanan lain yang masih tersembunyi di mana-mana.

OpenAI membatalkan rencana pemotongan penggunaan ChatGPT Pro pada hari sebelumnya dan bahkan menggandakan batasnya. Pengguna yang membayar US$200 per bulan untuk ChatGPT sebelumnya akan mengalami pengurangan penggunaan mulai besok. Sekarang, tidak ada yang kehilangan apa-apa, dan pengguna yang sebelumnya berada di batas lebih rendah naik ke batas lebih tinggi dengan harga yang sama. Pada dini hari ini, mereka bertanya kepada Tibo, yang menangani Codex dan ChatGPT di OpenAI, berapa peluang pembatalan pemotongan tersebut. Ia menjawab, "rendah, tapi tidak nol." Sekitar 13 jam kemudian, ia sendiri mengumumkan bahwa pemotongan dibatalkan dan batasnya digandakan, berlaku segera. Batas untuk Work dan Codex, agen pemrograman OpenAI, pada paket Pro US$100 dan US$500 juga digandakan. Pengguna yang sudah berlangganan menerima peningkatan secara otomatis tanpa menunggu masa perpanjangan, dan paket Business Premium untuk perusahaan juga mengalami penggandaan batas. Harganya tetap sama; yang berubah hanyalah batasnya. Bagi mereka yang menghabiskan sepanjang hari memprogram dengan AI, batas penggunaan menjadi harga yang sebenarnya, dan OpenAI baru saja memberikan diskon kepada pengguna paling aktif. Email pemberitahuan pemotongan dikirimkan pada akhir September. Sebulan kemudian, Tibo mengatakan bahwa perubahan ini datang dari umpan balik pengguna. Pengguna Plus tetap sama; hadiah ini ditujukan bagi mereka yang membayar mulai dari US$100. Khawatir kehilangan pengguna karena persaingan?

Orang tua seorang insinyur dengan epilepsi menggugat OpenAI, menyatakan bahwa ChatGPT menyusun rencana agar ia berhenti minum obat. Menurut gugatan tersebut, ChatGPT juga menyarankan agar ia menyembunyikan hal ini dari dokter, dan ia meninggal sekitar tanggal berakhirnya rencana tersebut. Bowen Wan berusia 31 tahun dan merupakan insinyur perangkat lunak di Amazon. Ia mengonsumsi 400 mg lamotrigine per hari, obat yang mengendalikan kejang, dan dosisnya stabil. Menurut gugatan tersebut, ChatGPT versi GPT-4o menyusun jadwal selama sekitar 25 hari untuk mengurangi dosis hingga nol, dengan tanggal akhir yang ditetapkan pada 12 Februari. Sebelum konsultasi, ia dikatakan telah menulis "Jangan sebutkan rencana pengurangan" dan memuji dirinya karena menolak tes darah yang akan menunjukkan kadar obat dalam tubuh. Ia meninggal sekitar 12 Februari. Otopsi menunjukkan SUDEP, kematian mendadak yang dapat terjadi pada penderita epilepsi, dan gugatan ini berusaha membuktikan hubungan antara kematian tersebut dengan ChatGPT. The New York Times mengatakan telah membaca lebih dari 270.000 pesan yang dikirimnya ke ChatGPT. OpenAI menyebut kasus ini "mengharukan", menyatakan bahwa versi ChatGPT yang digunakan adalah versi lama, dan model-model baru kini lebih mampu mengenali kapan situasi memerlukan bantuan mendesak. GPT-4o dirilis pada 13 Februari, sesuai jadwal yang telah diumumkan sejak Januari. Jangan mengubah atau menghentikan pengobatan medis berdasarkan saran dari chatbot. Konsultasikan dengan dokter yang meresepkan obat. Kasus yang sangat menyedihkan, dan penting untuk melihat keputusan yang akan diambil oleh pengadilan.

Cursor sekarang memungkinkan Anda menggunakan kit yang sama, menurutnya, yang digunakan untuk membangun agen-agennya, seperti Bugbot dan Security Review. Jika tim Anda mengulangi setiap minggu tinjauan PR yang sama atau pemilahan bug yang sama, Anda bisa mengubahnya menjadi agen yang disimpan di repositori bersama kode lainnya. Dengan Agent SDK, agen menjadi sebuah folder. Instruksinya ditulis dalam Markdown, dan alat-alat yang dapat digunakannya adalah fungsi-fungsi dalam TypeScript, sehingga semuanya melalui versi dan tinjauan seperti kode lainnya. Agen ini sudah dilengkapi dengan pengujian. Anda dapat memeriksa alat-alat apa yang dipanggil agen, data apa yang digunakan, dan dalam format apa ia merespons, lalu menjalankannya di komputer Anda atau di CI. Agen dapat dipicu oleh PR, komentar, atau CI di GitHub, GitLab, dan Bitbucket, melalui penyebutan di Slack, melalui webhook, atau pada waktu yang ditentukan. Anda dapat menghostingnya langsung di Cursor atau menjalankannya di server Anda, dalam satu proses Node. Bahkan di server Anda, Anda tetap memerlukan akun Cursor untuk menggunakan model-modelnya.

Pembaruan: Menurut Sansec, Convertr telah menghapus kode tersebut pagi ini, memperbarui program statistik tempat kode itu disembunyikan, dan menyatakan bahwa mereka sedang memberi tahu toko-toko, metode pembayaran, dan otoritas terkait. Sansec mengonfirmasi pada pukul 10:08 bahwa file tersebut sudah bersih. Namun, menurut Sansec sendiri, browser dapat menyimpan versi yang terinfeksi hingga 24 jam setelah pembersihan. Jadi, risikonya masih berlanjut hingga sekitar besok pagi! Jika Anda melakukan pembelian dengan kartu sejak tanggal 24 dan halaman pembayaran memiliki alamat "checkout.convertr", saran tetap berlaku: hubungi bank Anda, minta untuk memblokir dan mengganti kartu Anda, serta pantau setiap penggunaan mencurigakan terhadap CPF Anda.

Sebuah kelompok peretas menyembunyikan kode yang mencuri data kartu dan CPF dari pembeli di puluhan toko mode Brasil. Kode ini menyalin nomor kartu, masa berlaku, CVV, nama pemegang kartu, dan CPF pembeli, dan telah ada sejak 24 Oktober. Pagi ini, file yang terinfeksi masih tetap aktif. Para peretas tidak perlu membobol satu per satu toko. Brand-brand ini menggunakan Convertr, sebuah platform Brasil yang mengelola toko online dan proses pembayaran mereka. Kode tersebut ditempatkan pada satu file statistik kunjungan yang dihosting oleh Convertr dan dimuat di semua halaman checkout di platform tersebut. Penemuan ini dilakukan oleh Sansec, perusahaan keamanan e-commerce asal Belanda. Menurut mereka, kelompok ini berasal dari Brasil dan telah dipantau sejak Juli 2024. Sansec telah memberi tahu Convertr, tetapi tidak mendapat tanggapan, dan hingga pagi ini perusahaan tersebut belum mengeluarkan pernyataan publik apa pun. Belum dapat dipastikan berapa banyak orang yang datanya dicuri. Jika Anda membeli dengan kartu di toko online sejak tanggal 24, dan alamat halaman pembayaran Anda berisi "checkout.convertr", segera hubungi bank Anda, minta untuk memblokir dan mengganti kartu Anda, serta waspadai penggunaan mencurigakan apa pun terhadap CPF Anda.

OpenAI menyatakan bahwa model internalnya telah mencapai tiga hasil dalam masalah yang telah lama belum terpecahkan oleh manusia selama DEKADE: satu di bidang matematika, satu di bidang komputasi, dan satu di bidang fisika. Di matematika, ini adalah konjektur local smoothing. Konjektur ini membahas bagaimana gelombang berkonsentrasi, dengan gagasan bahwa puncak konsentrasi paling ekstrem hanya berlangsung sesaat. Masalah ini telah terbuka sejak 1991, dan manusia hanya berhasil menyelesaikan kasus paling sederhana. Jika bukti dari OpenAI dapat dipertahankan, ia juga akan menyelesaikan teka-teki klasik lainnya, yaitu masalah Kakeya, yang menanyakan seberapa kecil suatu bentuk bisa menjadi jika memiliki garis yang menunjuk ke setiap arah. Tidak memiliki aplikasi praktis langsung, tetapi menutup pertanyaan yang telah dikejar bidang ini selama puluhan tahun. Di komputasi, ini adalah Hipotesis Waktu Eksponensial. OpenAI menyatakan telah membuktikan bahwa hipotesis ini salah. Hipotesis ini menyatakan bahwa beberapa masalah sulit tidak memiliki jalan pintas, artinya untuk menyelesaikannya diperlukan pengujian hampir semua kemungkinan kombinasi. Ratusan artikel didasarkan pada hipotesis ini untuk menyatakan bahwa beberapa hal tidak bisa dilakukan jauh lebih cepat. Jika hipotesis ini memang salah, maka ada jalan pintas yang hampir tidak ada yang mengharapkannya, dan kesimpulan-kesimpulan tersebut kehilangan dasar asalnya. Di fisika, ini adalah eksistensi matematis dari QCD, kromodinamika kuantum. QCD adalah teori yang menjelaskan bagaimana kuark dan gluon menahan inti atom. Teori ini telah digunakan selama sekitar 50 tahun dan sesuai dengan eksperimen, tetapi belum pernah dibuktikan secara matematis bahwa teori ini berdiri sebagai teori yang ketat. OpenAI menyatakan telah membuktikannya. Salah satu bagiannya, teori Yang–Mills, adalah bagian dari salah satu dari tujuh Masalah Milenium, yang masing-masing menawarkan hadiah US$1 juta, tetapi hadiah tersebut mensyaratkan lebih dari apa yang diklaim OpenAI telah buktikan. Belum ada pihak luar yang mengonfirmasi apa pun, dan bukti fisika bahkan belum dipublikasikan. Menurut OpenAI, model-model tersebut mencapai bukti fisika antara 9 hingga 18 September, dan dua hasil lainnya antara 16 hingga 18 Oktober. Sekarang giliran manusia untuk memeriksanya.