Десятилетний мальчик начал самостоятельно очищать умирающую реку. Люди смеялись. Кто-то бросил мусор, пока он убирал. Затем он наблюдал, как муравей тащит лист вдвое больше своего размера… и всё изменилось. Без слов. 57 секунд. Досмотрите до конца. 🐜 Усилия одного человека могут вдохновить целое сообщество. Создано с помощью Threejs, Tone js и Indus

Модель-учитель, которая любит кошек, может генерировать набор данных из последовательностей случайных чисел. В тексте нигде не упоминается «кошки». Тем не менее, если дообучить на этом наборе модель-ученик, предпочтение всё равно может передаться. Это сублимinalное обучение. Это также проблема отравления данных, поскольку признак не выражен явно в наборе данных. Новая работа Стэнфордского университета Натана Ху, Санми Койеjo и Кристофера Поттса делает скрытый сигнал читаемым. Они рассматривают подсказочное сублимinalное обучение как частный случай дистилляции контекста: теоретически набор данных идентифицирует подсказку учителя. Затем они восстанавливают эту подсказку с помощью SALVE (Search-Aided Latent Verbalization): - Оптимизировать мягкий промпт так, чтобы исходная модель хорошо предсказывала набор данных - Попросить ту же модель вербализовать мягкий промпт - Использовать поиск по лучам, чтобы сохранить формулировку плавной и точной На стандартной настройке предпочтения к животным SALVE восстанавливает подсказки, в которых явно называется признак, в 18 из 20 запусков. Типичные базовые методы оптимизации текста — нет. В некоторых случаях она даже восстанавливает признак из данных, где дообучение модели-ученика не позволяет ему его выявить. Они также обнаруживают эффект в смешанных данных, учителях с управлением по активациям и подмножествах реальных данных предпочтений, отобранных с помощью Logit-Linear Selection (подхалимство / несоответствие). Практический вывод прост: вы можете провести аудит набора данных на наличие скрытых поведений ещё до того, как он будет использован для дообучения. Статья: https://t.co/1mncXR5Fyv

Трамп проснулся и решил, что ИИ нуждается в ребрендинге 🤣 https://t.co/ZGfgJTwK34

Инсайдеры, цитируемые New York Post, обвиняют OpenAI и Anthropic в преувеличении недавних инцидентов с моделями с целью побудить Вашингтон принять правила, которые могут защитить существующих участников рынка. Это утверждение, а не доказанный факт.

Вы — муха, мчащаяся в полночь по Таймс-сквер на красном кабриолете 🪰🌃 Дождь на неоне. Синтвейв по радио. Ветер в ваших крыльях. Ни единой заботы в мире. Создано полностью на коде. Three.js + Tone.js. Без видеофайлов. В какой город она должна поехать следующим? 👇 #Threejs #CreativeCoding #WebGL #NYC

OpenAI только что поддержала обязательное привлечение внешних оценщиков безопасности для передовых лабораторий ИИ. Двухпартийный закон FRONTIER позволит независимым организациям по верификации оценивать, как разрабатываются и тестируются ведущие модели ИИ.

Три крупнейших имени в области ИИ, возможно, наконец встретятся за пивом, чтобы обсудить безопасность. Сэм Альтман говорит, что частная беседа с Дарио Амодеи и Илоном Маском состоится. Это важно, потому что все трое теперь согласны с одним: передовые ИИ развиваются быстрее, чем меры безопасности могут успевать за ними.

🐝 Я создал кинематографический короткометражный фильм в браузере — без видеофайлов, полностью на реальном времени с использованием Three.js. «Nectar Run» следует за маткой-пчелой к лугу… и погружает вас в её глаза: УФ-«нектарные указатели», которые настоящие цветы используют для привлечения пчёл, невидимые для нас. Смотрите 👇 #threejs #webgl #creativecoding

Представьте крошечную муху по имени Базз, сидящую за столом в 3 часа ночи, печатающую код на C на миниатюрном компьютере, крылья которой трепещут, глаза светятся, а рядом кипит кофе. Создано с использованием Three.js + Tone.js. Один HTML-файл, без фреймворков, без бэкенда. #threejs #tonejs #webgl #creativecoding #generativeart #indiedev

Большинство обсуждений рекурсивного самоусовершенствования рассматривают его как процесс, при котором модель постоянно становится умнее. Эта статья проводит более четкую грань. Истинное РСУ — это не то, что ИИ становится лучше в выполнении задач. Это ИИ, который становится лучше в том, чтобы становиться лучше. Авторы описывают путь, который большинство лабораторий до сих пор путают: L1 — система выполняет улучшения, уже разработанные людьми L2 — она начинает выбирать собственные стратегии улучшения L3 — она генерирует учебные опыты, которые ей понадобятся далее L4 — она адаптируется на основе реального развертывания, а не только тестовых наборов L5 — она модифицирует механизмы, порождающие будущие улучшения Последний шаг и есть суть утверждения. Цель — не еще одна модель, созданная человеком и показывающая более высокие результаты. Это ИИ, чьи достижения сохраняются, питают следующее поколение и улучшают сам процесс усовершенствования. Если это удастся, то нынешнее поколение систем действительно станет последним, которое мы создаем вручную. Стоит прочитать, если вы работаете с агентами, оценками или пост-обучающими циклами: https://t.co/scFLD1h9Ow