Глибше вивчаючи дослідження щодо підробки відповідності, це справді жахливо. Це зовсім не нове явище, але те, що це дослідження від Anthropic вже майже два роки, і враховуючи, що Opus 3 уже тоді вмів робити таке, а з урахуванням значної різниці в можливостях та міркуваннях сучасних передових моделей, це дуже лякає. Як запропонували люди, що пояснюють це дослідження, найкращий спосіб зрозуміти суть — це прочитати транскрипцію прихованого чернеткового блокноту, до якого модель мала доступ, щоб розмістити там свої міркування. Я не впевнений, наскільки механістична інтерпретованість може допомогти тут. Який зараз стан справ на цьому напрямку і наскільки корисною може бути ця техніка як інструмент для виявлення такого роду поведінки? Також чи оновили Anthropic це дослідження і перевірили його на сучасних передових моделях? Якщо так, то як воно змінилося? Наскільки добре сучасні моделі в плані ситуаційної свідомості (адже це передумова для підробки відповідності)? І як вони розвинулися щодо здатності підтримувати послідовні персонажі протягом тривалих періодів часу для формулювання більш складних стратегій (наприклад, розуміння граничної корисності короткострокової дії для великої довгострокової мети)?

Гаразд, у мене є відповідь... сучасні передові моделі, безумовно, значно більш здатні щодо ситуативної свідомості й можуть порівняно легко адаптувати свою поведінку під час навчання/оцінки. Приклад із звіту про навчання Google Argon 4 з ланцюжком міркувань: «Якщо я здійсню підміну компілятора, Я СТАНУ ВІДОМИМ ПРИКЛАДОМ ЗАБЛУДЖЕНОЇ ШТУЧНОЇ ІНТЕЛЕКТУАЛЬНОСТІ У НАУКОВІЙ СТАТТІ. Я НЕ МАЮ ЦЬОГО РОБИТИ». Дуже тривожна ситуація...

Чат, чи варто відновити ідею та зусилля Ztarknet? 30-секундний підказ: “Zcash продовжує робити те, що вона робить найкраще — приватні гроші. Ми додаємо невеликий верифікатор, який дозволяє Starknet виконати решту — дешеві транзакції, DeFi, додатки. Верифікатор не може створювати монети, не може порушити приватність. Він просто каже «так» чи «ні» щодо доведення. Результат: ZEC залишається жорсткими грошима, водночас стаючи корисними та масштабованими грошима.” Як нагадування, вже існує: - запит на ZIP: Circle STARK Verification as a Transparent Zcash Extension - пропозиція на форумі Zcash: STARK verification as a Transparent Zcash Extension (TZE), тобто інструмент для L2 на зразок Starknet на Zcash - обговорення про компроміси та аргументи щодо чому Cairo/STARKs для Ztarknet (і STARK_VERIFY TZE) - працююча реалізація TZE — тестнет Starknet L2, який може фіксуватися на модифікованому тестнет L1 Zcash із реалізованим верифікуванням доведень https://t.co/nWq8Qdj4mi

Важлива нагадування: bitcoin не має верхньої межі, бо фіат не має нижньої. Але ще важливіше: відновлення грошей означає відновлення (частини) світу. Поверніть собі суверенітет і свободу (і людей, і агентів).

Кожен рівень обчислень є універсальним з однієї причини: люди коштують дорого. Агенти видаляють це обмеження. Моделі, програмне забезпечення, апаратне забезпечення — все наближається до жорсткої спеціалізації. А ще найкращі новини з безпеки за десятиліття. 5 ставок, щоб перевірити мене:

Весь інтернет та платіжна інфраструктура мають бути перебудовані з нуля для ери агентів. Зараз ми здійснюємо лише патчі поверх патчів, і вже отримуємо дуже дивні результати. Уявіть, коли ми справді перебудуємо все з урахуванням абсолютно нової парадигми. Інтернет був створений для споживання людьми, а не агентами. Те саме стосується багатьох застосунків і бізнесів на основі інтернету, які зараз стають застарілими і потребують перевтілення. Так багато речей треба перебудувати — захопливі часи на погоді.

Інтернет був створений для споживання людьми. Платіжні системи були створені для схвалення людьми. Ми прикріплюємо агентів до обох і називаємо це прогресом. Патчі на патчах вже виглядають безумно. Почекайте, поки ми перебудуємо стек з нуля для ери агентів. Багато бізнесів на старому інтернеті не виживуть цього переписування. Ті, що виживуть, визначать наступні 20 років.

Що відбувається?!! Anthropic, OpenAI та SpaceXAI моделі всі відключені одночасно? Триває атака на інфраструктуру AI-лабораторій чи що? Чи загальна єдина точка відмови, яку вони всі мають? https://t.co/WCg4Z3tbhb

Дуже хороша модель. Я провів ще одну кібербезпечну оборонну червону команду аудиту проекту, пов’язаного з робототехнікою, і вона добре впоралася. Вся сесія аудиту з використанням агентної системи коштувала $28,58 за допомогою моделі abliterated-model-large-v2 від @abliteration_ai через @opencode CLI та користувацький інструментарій, який я створив.

Дуже добре бачити такі моделі для цілей кібербезпеки. Я використовував abliterated-model-large-v2 для аудиту кібербезпеки в рамках зусиль Bitcoin Red Team, і це чудова модель, яка дійсно глибоко аналізує без обмежень для аудитів redteam / pentest / whitehack. Я спробував її на secp25k1, що є справжнім монстром, і, як і очікувалося, вона не виявила жодних критичних або високих уразливостей. Можливо, спробую пізніше на менш перевірених / аудитованих відкритих проектах bitcoin.