Зарубежные СМИ сообщают, что профессор UCLA и лауреат Филдсовской премии Тао Чжэсюнь недавно открыто предупредил, что ИИ потребляет действительно важные открытые задачи, способные продвинуть дисциплину, быстрее, чем математическое сообщество может восполнить их новыми вопросами. По его словам, риск заключается не в том, что модели будут писать больше доказательств, а в том, что они могут слишком быстро сжать пространство для долгосрочных исследований ученых.
Высокодоходные задачи становятся менее распространенными
Теренс Тао отмечает, что математические задачи можно генерировать бесконечно, но действительно важных из них немного. Многие нерешённые проблемы существуют, но не обязательно приводят к новым методам и трудно способствуют дальнейшему развитию соответствующих областей. Раньше исследователи опирались на опыт, чтобы определить, какие задачи стоят вложения месяцев или даже лет времени.
Он считает, что ИИ нарушает этот ритм. Раньше новые инструменты снижали сложность некоторых задач, но одновременно открывали новые направления за пределами существующих возможностей. Сегодня верхний предел моделей неясен, и исследователям сложно определить, какие задачи все еще подходят для долгосрочных вложений, а какие могут быть решены моделями уже в ближайшее время.
AI-лаборатория начала соревнование по решению задач
Согласно отчету, в мае этого года модель OpenAI предоставила контрпример к гипотезе единичного расстояния Эрдёша, затронув математическую проблему, существующую около 80 лет. Внешние математики, включая лауреата Филдсовской премии Тима Гауэрса, последовательно проверили это.
Почти в то же время исследователи Anthropic протестировали ту же задачу с помощью еще не выпущенной модели Claude Mythos. Инженеры компании заявили, что данная модель предоставила более короткое доказательство; некоторые математики считают, что ее версия в целом немного уступает OpenAI, но также нашла работоспособное решение.
Согласно отчету, Anthropic после этого формализовала историческое доказательство Великой теоремы Ферма. Через несколько дней OpenAI решила задачу возрастом около 90 лет, всего через несколько часов после того, как исследователь опубликовал свое доказательство. Эта скорость — именно то, чего боится Теренс Тао.
Рекомендуется увеличить вес процесса рассуждения
Теренс Тао предложил пометить некоторые задачи как «требующие анализа». При этом стандарте ценность предоставления только правильного ответа снижается, и исследователи должны одновременно объяснить процесс рассуждения, а также то, как этот процесс может дать подсказки для смежных задач.
Он считает, что стремление к быстрому получению ответов действительно решает текущие задачи в краткосрочной перспективе, но ценой ослабления экосистемы вопросов, необходимых для следующего раунда исследований, а также ухудшения понимания того, почему существующие результаты верны. Согласно сообщению, это предложение пока не стало официальным правилом, и непрерывное продвижение крупных лабораторий ИИ может заставить математическое сообщество быстрее столкнуться с дискуссией о критериях оценки.