Ang pinakamalaking nagpapalito sa akin sa Anthropic ay ang kanilang tunay na paniniwala na kung sila ay naniniwala na nagpapakabutihan, sila ay may karapatan na gumawa ng maraming desisyon para sa mga user. Kanina lang nila inilabas ang 154-pahina na Threat Intelligence Report, kung saan isinama nila ang mga kaso kung paano ginamit ang Claude para sa cyber attacks, scam, biological research, weapon development, at model distillation. Paano nakuha ang mga kaso na ito? Ang Anthropic ay sinusuri kung paano ginagamit ng mga user ang Claude; kapag nakakita sila ng mga account na kanilang itinuturing na may problema, sinusuri nila pa ito, pinag-aaralan ang kanilang paggamit, at tinataya kung ang user ay lumabas na sa limitasyon. Kung itinuturing nilang may panganib, isasara nila ang account. Pagkatapos, isasama nila ang lahat ng ito sa isang report para ipaliwanag sa publiko kung ano ang kanilang natuklasan at ano ang kanilang naiwasan. At marami nang ganyang gawain ang Anthropic. Ginagamit nila ang mga totoong usapan ng mga user at Claude upang pag-aralan kung ano talaga ang pinag-uusapan ng tao sa AI, kung paano nagiging dependent ang tao sa AI, ano ang mga halaga ng tao, at kailan nagkakaroon ng partikular na emosyon. Sasabihin nila sa iyo na ang data ay naging subject ng privacy protection, at ang mga pag-aaral na ito ay para sa kaligtasan ng AI. Ngunit sa tingin ko, ito ay sobrang pagmamataas. Bakit kaya kapag sinabi mo lang na “para sa kaligtasan ng AI,” maaari mong tingnan kung ano ang ginagawa ng user? Bakit kaya kapag iniisip mong worth it ang pag-aaral na ito, maaari mong gamitin ang data ng user para sa pag-aaral? Kung itinuturing nilang mataas ang panganib ng isang investment behavior, o ang isang politikal na diskusyon ay maaaring magdulot ng pinsala, o ang isang adult content ay hindi sumasalamin sa kanilang prinsipyo, o ang isang AI research ay sobrang panganib—maaari ba nilang tingnan, limitahan, at isara rin ito? Ayon sa lohika ng Anthropic ngayon, oo, maaari. Dahil palaging inuunawa nila ang sumusunod: Ang Anthropic ay mas alam kaysa sa user kung ano ang dapat at hindi dapat gawin. Ito rin ang dahilan kung bakit hindi ko naniniwala sa anumang AI Safety narrative ng Anthropic. Isang kompanya na palaging nagsasabi na nag-aalala sila na ang AI ay magpapasya para sa tao—ngunit mismo sila ay nagsisimula nang magpasya para sa mga user. Sobrang luma na. Ang mga luma ay inaasahang matalo.