source avatarくまごろう

Поділитися

Це ім’я вже зустрічалося в інших статтях, цікаво, що це за штука https://t.co/7qiEKzo5Yd Jev AI змінив звичайне розуміння AI-агентів Julian Goldie SEO #AIСкорочення #Claude #Codex Jev змінює прийняття рішень та автоматизацію AI-агентів 🔳 Особливості Jev Jev — це AI-модель типу System 1, спеціалізована не на генерації тексту, а на прийнятті рішень, оцінці та визначенні — призначена для швидкої та низьковартісної обробки великої кількості рішень. 🔳 Розподіл ролей з традиційними моделями Великі моделі відповідають за дослідження, планування та генерацію тексту, тоді як Jev виконує короткі рішення: вибір наступного інструменту, вирішення, чи продовжувати обробку, чи потрібна людська перевірка. 🔳 Швидкість та вартість У відео згадується, що Jev працює у 20–200 разів швидше та на 40–400 разів дешевше, ніж звичайні AI-моделі, що зменшує необхідність передавати велику кількість малих рішень потужним моделям. 🔳 Три типи рішень Jev підтримує вибір з кількох варіантів (Choice), оцінку за визначеними критеріями (Score) та визначення Yes/No з ймовірністю — і для кожного рішення можна отримати ступінь впевненості. ◙ Автоматизація за допомогою ступеня впевненості Можна налаштувати правила: якщо впевненість висока — автоматично виконувати; якщо низька — запитувати людину. Це дозволяє враховувати не лише ймовірність помилки, а й ситуації, коли AI не впевнений. 🔳 Паралельна обробка кількох рішень Можна надсилати кілька запитань щодо однієї ситуації одночасно — для визначення наступного кроку, терміновості чи необхідності схвалення — що скорочує очікування та витрати всередині AI-агента. 🔳 Приклад класифікації наукових статей Після створення короткого опису наукової статті, Jev отримав назву, опис та 24 варіанти тем для класифікації. У відео зазначено: загальна вартість обробки 18 статей — 8 центів, медiana часу на одну — 256 мс. 🔳 Приклад сортування листів 500 листів були класифіковані Jev на категорії: відповісти, додатково дослідити, зачекати, передати людині — оброблено за кілька секунд, загальна вартість — 3,5 цента. 🔳 Приклад оцінки лідів Оцінено 700 лид-запитань та індивідуальних повідомлень: за 40 секунд передбачено реакцію та ступеня впевненості, виявлено невiдповiдностi мiж лiдом та повiдомленням — вартiсть — 9 центiв. 🔳 Використання у браузерних агентах У браузерних агентах Jev вибирає наступну дію після кожного зміни сторінки, а введення тексту залишається іншому генеративному моделю. У відео зазначено: медiana к-ст браузерних команд зменшилася з 1092 до 101, а час завдання — на 25%. 🔳 Увага при пошуку авiapольотiв У прикладах авiapольот був знайдений за 7 секунд, вартiсть — менше 0,5 цента — але бронювання не виконувалося. Вимiрювання часу починалося пiсля завантаження першої сторiнки. 🔳 Оптимiзацiя внутрiшнiх посилань При створеннi внутрiшнiх посилань на сайтi з 586 сторiнок: за 45,1 секунди розмiщено 584 посилання; для 139 сторiнок без вiдповiдного контенту посилань не додано — вартiсть — 21 цент. 🔳 Маршрутизацiя моделей Запропоновано використовувати дешеву та швидку модель разом із потужною та дорогим: Jev оцiнює запит і направляє його до найбiльш пiдходящої моделi. У вiдео показано приклад iнтеграцiї через LangChain — вибирає найменш дорогу модель, що може виконати завдання. ◙ Безпечне використання інструментiв Jev може оцiнювати ризики перед тим, як AI-агент виконає інструмент: якщо безпечно — запустити; якщо небезпечно — зупинити або передати людинi. ◙ Зменшення контексту Jev оцiнює важливiсть історичних викликiв інструментiв у агентi та видаляє непотрiбну iнформацiю. У прикладi контекст з ~1 млн токенiв був скорочений до ~86 тис. за ~1 секунду. ◙ Побоювання щодо зменшення контексту Зазначено, що окреме оцiнювання та видалення історii може призвести до втрати обґрунтувань попереднiх рiшень у довгих завданнях. Тому можливо краще використовувати Jev для вибору контексту для сумаризацii, а не для видалення. 🔳 Обмеження Jev Jev не генерує текст, код чи результати дослiджень — виключно приймає рiшення. Висока ступень впевненостi не гарантує правильнiсть — реальнi результати (наприклад, збереження файлу) треба перевiряти окремо. ◙ Важливiсть дизайну входу Такого лише назви поля запиту недостатньо для передачi мети рiшення — потрiбно чiтко описувати текст запиту та варiанти. Якщо недостатньо контексту чи iнформацii — якiсть рiшення погiршується. ◙ Цiнова модель У вiдео зазначено: ~4 центи за ~1 млн токенiв входу; наразi за вихidом платити не потрiбно. Якщо зробити 10 000 рiшень по 1000 токенiв кожне — приблизна вартiсть — 42 центи. ◙ Важливою є загальна вартiсть завершення завдання🔳 Важливою є вартість завершення завдання Хоча саме прийняття рішень може бути дешевим, неправильна маршрутизація може призвести до того, що агент виконає непотрібні операції, що збільшить загальні витрати. Тому слід оцінювати не вартість окремого рішення, а загальну вартість до повного завершення завдання. 🔳 Зміна структури AI-агента У відео пояснюється, що раніше одна й та ж модель виконувала як генерацію тексту, так і прийняття рішень, а зараз відбувається переход до розподіленої структури: велика модель відповідає за дослідження та генерацію, Jev — за вибір, оцінку, схвалення та ескалацію, а код — за реальне виконання. 🔳 Поточні застосування Інтегровані функції все ще перебувають на експериментальній стадії, і найбільш реалістичним підходом на даний момент є поступове впровадження для простих, чітко визначених рішень, які люди повторюють: класифікація електронних листів, оцінка лідів, маршрутизація, позначення прапорцями. 🔳 Висновок відео Основний тезис відео полягає в тому, що розділення генерації тексту та прийняття рішень, а також передача повторюваних малих рішень швидким і недорогим моделям, таким як Jev, дозволяє покращити швидкодію, знизити витрати та розширити діапазон автоматизації AI-агенту.

Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.