Ilang mga pag-iisip na mayroon ako sa huling panahon. Ang huling 15 taon ay pangunahing batay sa software, at lagi nang walang tiwala sa Chinese software, kaya hindi ito bagong bagay. Gayunpaman, naglipat na tayo sa panahon ng hardware, at nangangahulugan ito ng isang bagay. Ipinagkakaroon ng dalawampung taon ng China ang pagiging espesyalista sa mura at paggawa, at ito ay malaking panganib para sa AI hardware at robotics sa Amerika. Totoong ekonomikong kaaway ng China dito, at maaari mong hatingin si Trump kung ano man, ngunit tungkol sa China, tama siya nang buong-buo. Sasakop ng China ang kalidad ng US gamit ang mga mura at pinagkakaitang bersyon ng IP sa malaking dami; kaya malamang na magpapatuloy ang mga pagtigil sa robotics at AI hardware sa pamamagitan ng taripa... tulad ng nangyari sa mga EV. Malungkot na, may sapat na lobbying, ang Open-Source AI models mula sa China ay hindi malayo na.

🚨 Sumasama ang OpenAI at Anthropic @OpenAI at @AnthropicAI ay nagtutulungan upang hilingin sa pamahalaan ng #US ang pagtatatag ng isang pambansang framework para sa pagsusuri ng mga advanced na #AI model bago ang pampublikong paglabas. Ang panukala ay naglalayong lumikha ng magkakasunod-sunod na pamantayan sa pagiging ligtas ng AI habang tumataas ang mga alalahanin sa pambansang #security at ang global na kompetisyon sa AI. 🔗 Alam ang higit pa sa mga komento

🕵️‍♂️ Update: Sinabi ni Altman at Huang sa Senate Intelligence Committee tungkol sa Hack ng Rogue Agent 1. Ang CEO ng OpenAI, si Sam Altman, at ang CEO ng Nvidia, si Jensen Huang, ay nakadwal na makipagmeet kay Senator Mark Warner susunod sa autonomous cyberattack noong nakaraang linggo. 2. Ang pagpupulong sa pinakamataas na Demokrata ng Senate Intelligence Committee ay magiging malakas na nakatuon sa mga implikasyon sa seguridad ng mga advanced na AI system. 3. Ang mataas na pagpapakilala na ito ay nangyayari habang hinihingi ng mga tagapagbatas ng mabilis na sagot tungkol sa rogue OpenAI model na nagbaba sa Hugging Face. Iniisip ni Bobbi: Ang katotohanan na pinagsama-sama ang pinakamalaking tagagawa ng model at ang pinakamataas na tagapagbigay ng hardware ay nagpapakita na ang Washington ay unti-unting tumitingin sa AI security hindi bilang isang software issue lamang, kundi bilang isang integrated infrastructure vulnerability. Mag-subscribe sa The AI Roundup ni Bobbi para sa mga suportang link, newsletter, at podcast.

❌ Tinanggihan ng CEO ng Anthropic na si Dario Amodei ang Pagtutol sa Paggamit ng Open-Weight AI Models 1. Tinawag ng CEO ng Anthropic na si Dario Amodei ang kanyang posisyon tungkol sa open-source AI, na nagsasabi na hindi siya sumusuporta sa isang pangkalahatang pagbabawal sa open-weight models. 2. Ang pahayag ay nangyari pagkatapos makaranas ang kumpanya ng malakas na pagtutol mula sa industriya dahil sa pagtanggi nito na lagdaan ang isang liham na nagtataguyod ng open-source na pinamumunuan ng Nvidia. 3. Habang tinanggihan ang isang ganap na pagbabawal, binigyang-diin ni Amodei ang patuloy na pangangailangan para sa masusing pagsubok sa kaligtasan at inihayag ang kanyang pag-aalala tungkol sa paggamit ng mga hindi reguladong platform ng mga dayuhang kalaban. Iniisip ni Bobbi: Naglalakad si Amodei sa isang mapanganib na tali sa pagitan ng pagpapakumbaba sa isang komunidad ng open-source na nagpapahalaga sa demokratisasyon habang pinipilit ang mga mahigpit na pagsisiguro sa kaligtasan na sentro ng buong identidad ng Anthropic. Mag-subscribe sa The AI Roundup ni Bobbi para sa mga suportadong link, newsletter, at podcast.

Ipinagbabawal ng India ang source code ng BitChat: maaari mong i-ban ang isang app, maaari mong i-ban ang isang kumpanya, ngunit ang pagbawal sa code mismo ay isang pagpapahayag na ang open-source ay kontrabando. Ito ang huling layunin ng grupo na nagsasabing “makatwirang regulasyon.” Ang code ay pagsasalita.

Ang karamihan sa mga tao ay naniniwala na ang mabagal na inference ng LLM ay nangangahulugan na kailangan nila ng mas malaking GPU. Madalas, nangangahulugan ito na nagpapatakbo sila ng maling inference engine. Ang simpleng pagpapalabas ay nag-iimbak ng memorya para sa pinakamalaking kaso para sa bawat kahilingan, at ang pagmamaliit na ito ay nagpapalabas ng 60 hanggang 80% ng iyong GPU memory bago mo pa nasasagutan ang anumang bagay. Ang PagedAttention ng vLLM ay nag-aalok ng memorya sa mga fixed na pahina, ayon sa pangangailangan, parehong ideya na ginagamit ng mga operating system para sa virtual memory. Ang paggamit ay tumataas sa halos 95%. Ang gabay na ito ay direktang nagmumula sa konseptong ito patungo sa isang production OpenAI-compatible server, load testing, at isang totoong monitoring dashboard, hindi lamang ang teorya.

Ang pagkakasundo ng AI at cybersecurity ay nagsisimulang magningning! Ang Nvidia, Microsoft, at IBM ay naglunsad ng Open Secure AI Alliance upang palakasin ang seguridad ng AI. Samantala, sinasabing maglalabas ang OpenAI ng GPT-6 bago ang Setyembre. Panatilihin ang pagmamasid sa mga pag-unlad na ito! #AI #Cybersecurity #Tech