С помощью ИИ ученые становятся способны делать больше — хуже. Модель того, как проводится исследование, предсказывает, что языковые модели заставят ученых публиковать больше статей, но с более низким качеством. Карл Бергстром из Университета Вашингтона и его коллеги разделили процесс исследования на этапы и определили, какие из них ускоряются с помощью ЯМ. Существует ЭТАП ОТКРЫТИЯ, на котором вы формулируете гипотезы и проводите достаточный объем предварительной работы, чтобы оценить, стоит ли продолжать проект. Затем следует ЭТАП РАЗРАБОТКИ, состоящий из двух частей: * обязательная работа — графики и черновики, без которых нельзя опубликоваться; и * дополнительная работа — последующие эксперименты и доработка В терминах программирования дополнительная работа — это тестирование и исправление ошибок перед релизом. ЯМ ускоряют этап открытия и обязательную работу — но не затрагивают дополнительную часть, поскольку она определяется как необязательная. Независимо от наличия многопроцессных обратных связей, дополнительная часть обычно представляет собой «человека в цикле» — множество «эй, подожди, а что это вообще делает?» — реальных проверок. Таким образом, сэкономленное время тратится на начало следующей статьи, а не на улучшение текущей, и отсюда вытекает прогноз: больше выводов, но меньшая их доля — качественных. Суть точки зрения Бергстрома — в стимулах: ученых оценивают по объему — поэтому инструмент, повышающий объем, используется именно для увеличения объема. Его предложенное решение — оценивать исследователей по их лучшей работе, а не подсчитывать количество статей и цитирований. (Примечание: статья Бергстрома была опубликована на arXiv 19 июля и пока не прошла рецензирование) #ScienceOfScience #AI #Research