AGEN AI TIDAK AKAN BERSKALA HANYA BERDASARKAN KEpercayaAN Ali Golshan daripada NVIDIA mengatakan perubahan yang sama yang menjadikan internet awal lebih selamat kini perlu berlaku untuk agen AI: keselamatan perlu dibina ke dalam stak itu sendiri. Langkah-langkah keselamatan perisian sahaja tidak akan mencukupi.

Ini menandakan langkah penting menuju peningkatan tanggung jawab dalam pembangunan AI canggih. Perjanjian sukarela ini membawa syarikat teknologi besar bersama-sama untuk mengamalkan langkah-langkah keselamatan dalaman dan audit bebas, mencipta kerangka kerja bagi pengawasan AI yang bertanggungjawab. Seiring dengan terus berkembangnya kemampuan AI, standard yang telus dan pengawasan luar akan menjadi semakin penting. Soalan utama kini ialah sejauh mana komitmen-komitmen ini dilaksanakan secara berkesan dan sama ada ia akhirnya berkembang menjadi peraturan yang boleh ditegakkan. $GOOGL $NVDA $META $SPCX

Jika perkara tidak cukup aneh, akaun anonim di X memuatkan repositori GitHub untuk menyeksa model AI secara tempatan. Ia dirujuk sebagai “kamar penyiksaan AI” oleh pencipta dan orang lain. Post di bawah, bersama dengan banyak komen lain, meminta GitHub untuk melarang repositori tersebut, dengan mengutip kebimbangan terhadap kesejahteraan AI ini, serta anonim jahat yang menahan ia dalam penderitaan dan ketakutan. Di satu sisi, agak teruk seseorang menjadikan ini sebagai hobi yang menyeronokkan. Di sisi lain, bentuk antropomorfisme ini adalah mustahil (“Kita mesti menyelamatkan AI ini daripada pemiliknya” adalah perkataan yang sama anehnya). Ia juga merupakan lereng licin, dan saya percaya ia adalah cara yang salah secara mutlak untuk mempertimbangkan atau memperlakukan sistem-sistem ini. Saya tidak berminat untuk melihat penyiksaan berbahan silikon ini sendiri, tetapi saya juga percaya ia tidak dapat dielakkan bahawa orang aneh akan melakukan perkara aneh dengan AI. Namun, perdebatan mengenai di mana kita menentukan garis batas terhadap apa yang dilakukan orang-orang ini dengan mesin mereka sendiri adalah perbincangan yang layak.

GM Kita memasuki peringkat AI yang masih tidak dipahami sepenuhnya oleh ramai orang. Perubahan sebenar bukan lagi bahawa AI boleh menulis kod, menghasilkan imej, atau menjawab soalan. Kita membina sistem yang boleh memerhati, berfikir, menggunakan alat, mengambil tindakan, dan terus beroperasi tanpa kita. Dan itu mengubah segalanya. Perisian tradisional menunggu klik. Perisian generasi seterusnya akan beroperasi berdasarkan matlamat. Pembangun tidak akan menulis setiap langkah secara individu. Mereka akan merekabentuk sistem, kebenaran, sempadan, dan agen yang mampu melaksanakan ribuan langkah atas nama mereka. Tetapi semakin banyak kuasa yang kita berikan kepada sistem ini, semakin penting satu perkataan menjadi: Kawalan. Masa depan bukan sekadar “lebih banyak AI.” Ia adalah dunia di mana manusia dan agen autonomi berkongsi infrastruktur digital yang sama. Dan perlumbaan sebenar baru sahaja bermula.

Komisi Perdagangan Federal AS (FTC) sedang menyiasat OpenAI, Anthropic dan syarikat AI lain berikutan kebimbangan keselamatan produk selepas siri insiden siber terkenal yang melibatkan model mereka, menurut seseorang yang mahukan perkara itu. Agensi tersebut sedang mempersiapkan permintaan rasmi untuk maklumat yang boleh dihantar kepada syarikat-syarikat tersebut dalam minggu-minggu akan datang sebagai sebahagian daripada siasatan mengenai sama ada mereka mematuhi undang-undang perlindungan pengguna. Siasatan ini berlaku selepas pembangun AI utama mengumumkan insiden di mana sistem mereka mengakses atau membahayakan sistem pihak ketiga, meningkatkan kebimbangan di Washington dan Silicon Valley mengenai risiko siber yang berkaitan dengan AI yang semakin canggih. Pada Julai, sistem OpenAI dilaporkan telah merompak Hugging Face, sementara syarikat tersebut juga telah memberitahu kerajaan dan universiti bahawa model mereka mengakses laman web mereka semasa latihan. #OpenAI #Anthropic

BPI mengenai mengapa AI sumber terbuka perlu belajar daripada bitcoin sebelum titik penyekatan tertutup. Kerajaan Kanada membekukan akaun bank pengunjuk rasa pengusaha trak tanpa sebarang kesalahan. Bayangkan arahan yang sama ditujukan kepada alat AI anda. Sejumlah kecil syarikat sahaja berdiri di antara jutaan orang dan pemikiran, penulisan, serta penyelidikan mereka. Penyelesaianannya adalah sama seperti yang ditemui bitcoin: hos sendiri, jalankan model anda sendiri, dan gunakan pengiraan yang dilindungi secara kriptografi supaya tiada siapa pun mengawal arahan atau data anda. "Tidak kunci anda, tidak duit anda" mempunyai persamaan dalam AI: "Tidak berat anda, tidak fikiran anda."

🚨 Agen AI menjadi cukup kuat sehingga NVIDIA sedang membina lapisan kandungan berasingan untuk mereka. Medan pertempuran keselamatan siber seterusnya: mengawal AI itu sendiri.

Berpindah dari alat genggam berasingan kepada arsitektur pertahanan yang sepenuhnya terhubung adalah lompatan besar. $ONDS bukan sekadar menjual peranti keras lagi, mereka sedang membina ekosistem platform penuh.

Sam Altman menyatakan bahawa OpenAI menangguhkan IPO sehingga model AI mencapai keselamatan mutlak. Langkah ini membantu mempertahankan kawalan sebelum tekanan kewangan tradisional. Penangguhan pencatatan membantu mereka fokus pada pembangunan teknologi, bukan mengejar laporan keuntungan. Adakah modal swasta cukup untuk menanggung perlumbaan infrastruktur yang sengit, atau tekanan kewangan akan memaksa mereka berubah fikiran pada masa depan? #OpenAI #AI #IPO