Maaaring palitan ng AI Agents ang mga tradisyonal na app gamit ang mga pinatotohanan, user-built na sistema

Maaaring gawin ng mga AI agent ang pagpapatakbo ng code na isinulat ng mga dayuhan bilang isa sa mga pag-uugali na hihirapan pang prosesuhin ng mga susunod na henerasyon.

Maaaring palaguin ng isang lipunan ang isang panganib sa loob ng dekada, tapos ay muling i-classify ito bilang mapanganib kapag naging available ang mas ligtas na default.

Ang pag-inom bago magmamaneho, pagrerehistro nang walang safety belt, pagpapalit ng sigarilyo sa loob ng gusali, at pag-install ng arbitrary binaries mula sa internet ay lahat ay kabilang sa parehong pamilya ng mga nakaraang blind spot. Ang karaniwang katangian ay ang sosyal na pahintulot.

Patuloy ang pag-uugali kapag ang alternatibo ay mahal, hindi kongkreto, o teknikal na hindi magagamit. Kapag naging murang at karaniwan na ang mas ligtas na daan, nagsisimula nang tila irasyonal ang lumang daan.

Patuloy pa ring tumatakbo ang modernong software sa isang mura nitong kasunduan na karaniwang hindi natin sinusuri. Isang developer, kumpanya, foundation, o anonymous na tagapagpanatili ang sumusulat ng code. Isang distribution channel ang nagpapakete nito. Isang user, enterprise, o operating system ang tumatakbo nito.

Naging layered na pagsubok ang seguridad upang pamahalaan ang mga epekto ng desisyong iyon.

Ang mga pahintulot, code signing, app stores, endpoint detection, sandboxing, vendor due diligence, at incident response ay umiiral dahil ang pangunahang gawain ay patuloy na delikado: ang pagsasagawa ng mga utos ng iba sa iyong machine, loob ng iyong account, may access sa iyong data.

Nabigo ang modelo na ito sa antas ng institusyon. Ipinakita ng SolarWinds compromise kung paano ang masasamang code na ipinasok sa isang pinagkakatiwalaang proseso ng pagbuo ng software ay maaaring ipamahagi sa pamamagitan ng karaniwang mga update at makarating sa mga ahensya ng gobyerno, mga kumpanya sa teknolohiya, mga network ng telekomunikasyon, at iba pang mga layunin sa iba’t ibang rehiyon.

Ang aral sa operasyon ay estruktural, at ang surface ng pag-atake ay ang kahingian ng vendor.

Pagkatapos ma-compromise ang proseso ng pagbuo, naging mga normal na tanda ng tiwala ang infrastruktura ng pagdudulot para sa pag-atake.

Ito'y parehong pattern ang lumitaw sa XZ Utils backdoor, kung saan binigyan ng babala si CISA noong Marso 2024 na may nakapalabas na masasamang code sa mga bersyon 5.6.0 at 5.6.1 ng isang compression library na nasa loob ng lahat ng Linux distributions.

Ang National Vulnerability Database ay naglalarawan kung paano nagproduksyon ng isang nakatagong test file at manipulasyon sa proseso ng pagbuo upang makalikha ng isang binago na liblzma library na may kakayahang interbensyon at pagbabago sa mga interaksyon ng data sa mga kinalink na software.

Maaaring maging kompromitado ang isang software supply chain malayo sa itaas mula sa user, at maaaring dumating sa pamamagitan ng mga channel na tila karaniwan. Nakita namin ito sa crypto maraming beses kasama ang DNS at JavaScript npm exploits.

Ang tugon ng industriya ay ang pagdagdag ng mas malakas na proseso. Ang NIST Secure Software Development Framework ay nagbibigay sa mga organisasyon ng isang karaniwang set ng mga pamamaraan para sa pagbuo at pagkuha ng software na may mas mababang panganib.

Ang SLSA framework ay nagpapalakas ng provenance, integridad, at pagiging resistant sa pagbabago sa artifact pipeline. Kailangan ang mga kontrol na ito.

Kasama rin nito ang pagpapakita ng limitasyon ng kasalukuyang modelo. Ang mga negosyo ay patuloy na pinagpapabuti ang mga paraan para matukoy kung anong eksternal na code ang karapat-dapat sa tiwala.

Ang susunod na modelo ay nagbabawas sa amount ng outside code na kailangan ng tiwala.

Ang pagbabagong iyon ay nagbabago ang sosyal na kahulugan ng software. Ngayon, ang third-party code ay itinuturing na isang asset sa produktibidad na may overhead sa seguridad.

Bukas, maaaring ituring na isang obligasyon na nangangailangan ng pagpapaliwanag. Ang default na tanong ng user ay magsisilbi mula sa “Anong app ang dapat kong i-install?” patungo sa “Bakit ko dapat patakbuhin ang app ng iba kung ang aking agent ay makakabuo ng function para sa akin?”

Iyon ay tunay na pahahati. Ang software ay tumigil na maging pangunahing produkto na pinipili mula sa merkado at naging output na ginagawa ayon sa kahilingan sa loob ng isang execution environment na kontrolado ng user.

Ang direksyon ng paglalakbay ay nakikita sa mga coding agent. OpenAI Codex ay ipinakilala bilang isang cloud-based na software engineering agent na kaya magtrabaho sa maraming gawain nang sabay-sabay.

Claude Code ng Anthropic ay isang agentic coding system na nagmamapa ng codebase, nagbabago ng mga file, nagpapatakbo ng mga pagsubok, at nagdadala ng committed code.

Ang GitHub’s Copilot coding agent ay isinilid ang parehong pattern sa GitHub workflow, kasama ang asynchronous na paggawa sa mga isyu at pull requests.

Google Jules ay nagtatampok ng parehong direksyon: isang autonomous coding agent na sumasapit sa konteksto ng produkto, nagpapagawa ng solusyon, at nagpapadala ng pull requests.

Ang mga produkto na ito ay patuloy na itinuturing na mga kasangkapan para sa mga developer. Ang pagkakasulat na ito ay magiging mas maliit sa panahon. Para sa Codex, nangyari na ito. Ipinaliwanag ng OpenAI ang isang UI option noong nakaraang buwan na nakatuon sa 'mga chat' at mga output kaysa sa code at terminal.

Mas malaking pagbabago ay ang pagiging personal na pag-delegate ng paggawa ng software. Naglalarawan ang gumagamit ng isang workflow. Ang agent ay naglilikha ng interface, lohika, integrasyon, mga pagsubok, at daan ng pagpapatupad.

Maaaring tumagal ang artifact ng isang oras, isang linggo, o isang taon. Maaari itong muling ma-generate, forked, limitahan, i-audit, discard, o muling ibuksan para sa bagong konteksto.

Mas mababa na ang app bilang isang permanenteng bagay at mas malapit na sa isang lokal na patakaran na pinagsama sa isang gamit na interface.

May direktang epekto ito sa pagkakatiwala. Maaari pa ring obserbahan ng isang user ang mga aplikasyon ng iba. Maaari nilang suriin ang mga workflow, pattern ng interface, data schema, prompts, automation, at integrasyon ng serbisyo. Gayunpaman, ang pagmamasid ay maaari pang manatiling hiwalay sa pagpapatupad.

Ang user ay makakakopya ng ideya, pagkatapos ay maaaring humingi ng isang personal na agent na muling buuin ang function mula sa mga unang prinsipyo sa loob ng isang kapaligiran na pinag-uugnayan ng mga patakaran ng user mismo. Ang halaga ay lumilipat mula sa compiled artifact patungo sa pattern.

Ang distribusyon ay naging mas kaunting tungkol sa pagpapadala ng executable code at mas maraming tungkol sa pagpapalabas ng intensyon, disenyo, mga patunay, mga iskema, at mga inaasahang API.

Papasok ang cryptocurrency sa argumento sa pamamagitan ng pag-verify, hindi sa pamamagitan ng pagpapalago. Ang agent ng user ay magpapag-ugnay pa rin sa mga panlabas na serbisyo.

Maaari itong tumawag sa mga payment rails, mga sistema ng identity, mga endpoint ng market data, mga storage layer, mga provider ng AI model, mga compute markets, mga messaging system, at mga serbisyo ng compliance. Ang hangganan ng pagkakatiwala ay lumilipat sa mga endpoint na iyon at sa mga claim na ginagawa tungkol sa kanila.

Kailangan ng mga gumagamit ng paraan upang magrank ng mga panlabas na serbisyo batay sa auditability, provenance, security posture, at economic alignment. Ang isang serbisyo na binuo sa loob ng isang verifiable na kapaligiran ay iskoring iba sa isang black-box endpoint na pinag-uugnay ng isang korporatibong platform.

Ang mga sistema ng zero-knowledge ay nagbibigay ng isang daan patungo sa antas ng pagrereporma. ZK rollups ay nagpapakita kung paano isinasagawa ang komputasyon sa labas ng chain habang ang isang maikling patotoo ay nagpapatotoo sa kawastuhan ng resultang pagbabago ng estado sa loob ng chain.

Ang parehong konseptwal na pattern ay maaaring magpalawak sa labas ng pag-scall ng transaksyon. Maaaring kailanganin ng mga gumagamit ang mga patunay na ang isang endpoint ay nag-run ng pinapayagang code, na-proseso ang data sa ilalim ng mga tinukoy na limitasyon, na-ipanatili ang mga hangganan ng privacy, o na-produce ang isang resulta mula sa isang partikular na audited na build.

Ang patunay ay maaaring panatilihin ang loob na konsiderasyon habang pinipigilan ang pagkakaiba ng tiwala sa pagitan ng isang personal na agent at isang panlabas na pagkakadepende.

Ang mahabang panahon na interface ay maaaring magmukhang isang operating layer na kinokontrol ng isang agent. Hinihingi ng user ang isang dashboard, isang portfolio tool, isang research assistant, isang publishing system, isang personal na CRM, isang accounting workflow, o isang security monitor.

Ang agent ay nagpapalikod nito mula sa generated code at ranked endpoints. Ang code ay masusuri dahil ito ay nilikha ng agent.

Ang mga depensiyensiya ay limitado dahil pinili ng agent ang mga ito batay sa patakaran. Ang kapaligiran ng pagsasagawa ay ma-audit dahil pinili ng user ito bilang isang kahilingan.

Patuloy pa ring kumikilala ang gumagamit sa isang networked economy. Lumalapit ang kontrol sa indibidwal.

Ang dulo ng transisyong ito ay isang merkado para sa mga verifiable na punksyon, agent-generated na client, at ranked na external na serbisyo. Patuloy pa ring umiiral ang mga developer mula sa ikatlong partido, ngunit nagbabago ang kanilang papel.

Naglalathala sila ng mga protokolo, API, mga template, patunay, modelo, mga komponente, at mga referensyal na implementasyon. Ang mga gumagamit ay tumatakbo ng kanilang sariling bersyon.

Patuloy pa ring umiiral ang mga korporasyon, ngunit ang kanilang kahalagahan ay umiihip mula sa pagkontrol sa distribusyon patungo sa pagpapatotoo ng kumpiyansa. Patuloy pa ring umiiral ang mga komunidad ng open-source, ngunit ang bigat ay umiihip mula sa paghingi sa mga gumagamit na maniwala sa mga tagapangalaga patungo sa pagbibigay ng sapat na istrakturadong materyal sa mga agente upang mabawi nang ligtas.

Ang lumang ekonomiya ng software ay nagbebenta ng natapos na mga aplikasyon. Ang bagong isa ay nagbebenta ng kredibleng mga kakayahan.

Naging generated interface ang portfolio tracker sa mga market data endpoints, wallet permissions, tax logic, at reporting rules. Naging generated workflow ang publishing system sa identity, editing, content management, analytics, at distribution APIs.

Naging surface ang isang research terminal na ginawa mula sa mga database, mga pagtawag sa model, mga pag-check ng provenance, at mga pribadong tala. Sa bawat kaso, ang agent ng user ang nag-aangkop.

Ang panlabas na mundo ay nagbibigay ng verifiable na mga mapagkukunan. Ang pagbabago ay lumilikha rin ng komersyal na pagsubok para sa bawat tagapagbigay ng infrastruktura: patunayan ang claim, i-publish ang interface, ipakita ang set ng mga limitasyon, at hayaan ang mga user-side agent na magdesisyon kung deserve ba ng pagkakaroon ng serbisyo.

Ang karaniwang deba sa pagsasaklaw ng hinaharap bilang lokal kumpara sa cloud. Ang pagkakahati na ito ay nakakapokus sa bahagi ng tanong sa imprastruktura, ngunit naglalabas ng pulitikal na ekonomiya.

Maaaring gamitin ng isang pribadong sistema ang cloud compute sa ilalim ng mga limitasyon na itinakda ng user. Maaaring mag-run ang isang korporatibong sistema nang lokal habang nananatili ang pagkakakilanlan, mga insentibo, mga pahintulot, at pagmonetize sa loob ng isang stack na kontrolado ng vendor.

Ang mas matatag na pagkakahati ay ang pribado kumpara sa korporatibo. Sino ang nagtatag ng app?

Sino ang nagdedesisyon kung ano ang maaari niyang ma-access? Sino ang tumatanggap ng telemetry?

Sino ang nagtatakda ng path ng upgrade? Sino ang makakarevoke ng function?

Sino ang nakikinabang sa pagkakadepende ng user?

Mas makikita ang pagkakahati na ito habang ang agentic software ay naging sapat na mura para sa karaniwang gumagamit. Isang daan ay nagdadala patungo sa personal na kalayaan sa software.

Ang mga gumagamit ay nagpapanatili ng mga agent na nagbuo at nagre-rebuild ng mga kasangkapan na kanilang kailangan. Pumipili sila ng mga provider ng endpoint batay sa mga attestations, gastos, kumpiyansa, privacy, at pagkakasundo.

Maaari nilang abandonahan ang isang interface habang pinapanatili ang underlying workflow. Maaari silang mag-migrate mula sa isang endpoint patungo sa isa pa.

Maaari nilang lumikha ng bagong client kapag ang lumang client ay naging kompromitado, kuhang, o hindi epektibo. Ang software layer ay naging portable dahil ang user ang may-ari ng intensyon, at ang agent ay makapagpapalit ng implementasyon.

Ang ibang daan ay nagdadala patungo sa pinamamahalaang kahandaan. Ang mga korporatong platform ay mag-aalok ng mga app na may suportang pondo, integrated identity, credits, pagbabayad, storage, access sa AI, at default workflows.

Ang ilan dito ay magiging kapaki-pakinabang. Ang ilan naman ay magiging ekonomikong pilit.

Kung ang pagkakaroon na dinudulot ng AI ay nagtataguyod ng mga scheme ng kita na kaugnay sa UBI, compute credits, pagkakaloob ng mga token, o mga benepisyo na may kinalaman sa platform, maaaring maging isang malambot na mekanismo ng pagkakabukod ang rail ng pagkakaloob. Maaaring makatanggap ang mga gumagamit ng pag-access sa mga serbisyo sa pamamagitan ng isang ecosystem na nagtatukoy din kung anong software ang kanilang ginagamit, kung paano naglalakbay ang kanilang data, at kung aling mga agent ang maaaring mag-act para sa kanila.

Ang UBI layer ay ang pinakamalikhaing bersyon ng problema na iyon. Mahaba nang kasama ni Sam Altman sa mga debateng panahon ng AI tungkol sa pagkakabahagi ng kita, at Worldcoin ay isinulong, sa bahagi, sa paligid ng proof of personhood at ang posibilidad ng mga pagkakabahagi na katulad ng UBI.

Mas malaki ang pangkalahatang punto kaysa sa isang proyekto. Kapag nagkakasalubong ang ekonomikong suporta, pag-verify ng identity, pag-access sa compute, at mga pahintulot sa software, ang pagkakaroon ng bahagi ay maaaring maging may kondisyon habang tila voluntary.

Maaaring libreng pumili ng pag-iwas sa teorya habang pinipilit na pumunta sa isang pinamamahalaang application layer sa praktika.

Ang kahusayan ay naging pangunahing larangan. Ang korporatibong stack ay magtatagumpay sa pagkuha ng mga user sa pamamagitan ng mababang friction.

Mag-aalok ito ng mga default na maayos, instant na pag-access, bundled na AI, social compatibility, recovery flows, compliance coverage, at mga reward. Kailangan ng private stack na makipag-competensya sa isang mas mahirap na bagay: autonomy na parang gamitin.

Dapat ito ay magbigay sa mga gumagamit ng dahilan upang tanggapin ang mas maraming responsibilidad habang iiwasan ang teknikal na administrasyon. Ang personal na agent ay naging desisibo dahil kayang serapin ang kumplikadong detalye na dati ay nagpapahirap sa pagkakaroon ng soberanya.

Ang unang-order na panganib ay ang pagtukso ng mga gumagamit sa kontrol para sa kahingian bago sila maintindihan ang gastos. Ang pangalawang-order na panganib ay ang pagiging sinuportahan, normalisado, at sa huli ay kinakailangan para sa pagkakaroon ng access sa ekonomikong buhay.

Maaaring maging default na kapaligiran ang corporate apps para sa mga tumatanggap ng bundled benefits. Maaaring maging default ang privately generated apps para sa mga handang magbayad, mag-verify, mag-configure, o mag-self-custody ng kanilang software layer.

Naglilikha ito ng bagong klase ng pagkakahati-hati sa pagkontrol sa pagpapatupad. Ang tanong ay kung ang agentic AI ay pinapaliit o pinaglalalim ang pagkakahating ito.

Ang transisyong iyon ay magiging hindi pantay. Ang mga reguladong sektor ay magiging mas mabagal.

Ang mga korporasyon ay magtatanggol ng mga ecosystem ng app gamit ang mga argumento tungkol sa pagkakasunod. Ang mga konsyumer ay magpapagpatuloy sa pagpili ng convenience na default kapag ang pribadong alternatiba ay parang mahina.

Ang mga attacker ay magtatarget sa mga agent, prompt, pagpili ng dependency, mga supply chain ng model, at endpoint attestations. Ang mga sistema ng pag-verify ay magiging bagong chokepoints kung sila ay mapapabilang sa isang maliit na bilang ng mga certificate authority, cloud platforms, o model vendors.

Ang personal na kalayaan sa software ay maaaring maging isa pang panjanjangan ng brand kung hindi makakapag-inspect, mag-migrate, at mag-revoke ang mga gumagamit.

Gayunpaman, malinaw ang direksyon upang matukoy ang susunod na pagsubok. Ang tanong ay kung tatanggapin ng mga tao ang kahalagahan ng kahingian kaysa sa soberanya kapag ang kanilang sariling mga tagapag-ugnay ay makakabuo ng karamihan sa kanilang mga pangangailangan.

Ngayon, ang sagot ay karamihan ay oo dahil ang alternatibo ay patuloy na sobrang hirap. Bukas, ang sagot ay maging mas hindi sigurado.

Isang gumagamit na makakagawa ng isang gumagana app, limitahan ang mga pahintulot nito, suriin ang mga nakasalalay nito, kumonekta lamang sa mga ranked endpoint, at muling ibuon ito kapag nagbabago ang mga kondisyon ay may totoong alternatibo sa corporate software bundle.

Ang alternatibong ito ay magkakaroon ng pakiramdam na kakaiba sa simula. Pagkatapos ay magiging matalino.

Kaya ito ay maging ang default na inaasahan para sa sinumang nagdadala ng pera, pagkakakilanlan, data sa kalusugan, pribadong komunikasyon, pananaliksik, o mga operasyon sa negosyo. Ang pagpapatakbo ng opaque na code mula sa ikatlong partido ay magpapatuloy kapag ang kahalagahan ang nangunguna, kapag ang suporta ay nagpapabago ng pagpili, at kapag ang mga gumagamit ay tumatanggap ng mga pinamamahalaang kapaligiran sa palitan ng ekonomikong pagkakataon.

Mawawala ito kung saan ang mga tagapag-ayos ay gumagawa ng pribadong proseso ng paglikha.

Ang sosyal na pagbabalik-angkop ay magiging mabagal, tapos bigla. Ang lumang gawi ay magiging pamilyar hanggang sa maging malinaw ang bagong default.

Kapag makakapag-ani na ang mga user ng kanilang sariling agent upang buuin ang aplikasyon, i-verify ang daan ng pagpapatupad, at kumonekta lamang sa mga attested endpoint, lalabas ang bigat ng paliwanag. Kailangan ng dahilan ang tao na nagpapatakbo ng code ng iba.

Ang tao na nagbuo sa pamamagitan ng isang tagapag-ugnay ay magiging gumagamit lamang ng mas ligtas na default. Gayunpaman, maaari rin silang kailanganin na tanggapin ang pagkakalimot sa mga korporatibong insentibo na ibinibigay sa mga nananatiling konektado sa matrix.

Lumabas muna ang post Ang mga araw ng app ay nakikita na: Ang huling anyo ng software ay magiging pribado, personal, veripikado, at gawa ng AI agent sa CryptoSlate.