
https://t.co/pFDQOMTyC8 【Кибератаки — это только начало】Труд и общество кардинально изменятся благодаря AGI | Непрекращающаяся гонка разработок между США и Китаем и карта идей генеративного ИИ | «Если продолжим в этом темпе, вероятность вымирания человечества превысит 90%» 【AGIHub | Ару Сёта】 Официальный канал Bungei Shunjū PLUS #AIСводка Сможет ли ИИ уничтожить человечество? Взрыв интеллекта, вызванный AGI, и будущее цивилизации 🔳 Взрыв интеллекта, который принесёт AGI AGI (общий искусственный интеллект) — это ИИ, способный превзойти человеческий уровень в любой области. При реализации он сможет самостоятельно улучшать себя через «рекурсивное самоусовершенствование», что приведёт к взрывному росту интеллекта и потенциально фундаментальному изменению человеческой цивилизации. 🔳 Вероятность реализации AGI в течение 5 лет Ару предсказывает, что вероятность реализации AGI в течение 5 лет превышает 50%. Ранее считавшиеся возможными сроки — 2050 или 2100 год — теперь сдвигаются вперёд из-за стремительного прогресса генеративного ИИ: к 2030 или даже 2027 году. 🔳 Идея «принять таблетку AGI» «Принять таблетку AGI» означает принять будущее, в котором общество и цивилизация кардинально изменятся из-за появления AGI. Среди исследователей ИИ в Силиконовой долине и Беркли всё шире распространяется взгляд на AGI не как на просто удобный инструмент, а как на новое разумное существо, превосходящее человека. 🔳 Основы труда и капитализма разрушаются При реализации AGI ИИ может взять на себя не только белые воротнички, но и управление, исследования, производство и другие широкие сферы. Речь идёт не просто о повышении производительности или безработице — сама основа современного общества, где люди работают, получают доход и потребляют, может измениться. 🔳 Индустриальный взрыв: роботы, создающие роботов Когда AGI сможет автономно управлять заводами и роботами, возникнет цикл: роботы будут производить роботов. Производственные мощности будут расти экспоненциально — в 2, 4, 8 раз и более — и ежегодное производство десятков тысяч роботов может взорваться до сотен миллионов. 🔳 Ускорение освоения космоса благодаря технологическому взрыву Если AGI будет работать как выдающийся исследователь или инженер, технологические инновации, которые раньше занимали 10–30 лет, могут быть достигнуты за 1–2 года. Возможны быстрые достижения в области космических центров данных, космической солнечной энергетики и космических колоний. 🔳 Различия в идеях между OpenAI и Anthropic OpenAI, по словам Ару, следует стилю предпринимателей из Силиконовой долины: сначала разработать технологию, а потом решать проблемы. Anthropic же сильно влияет сообществом безопасности ИИ из Беркли, которое уделяет первостепенное внимание риску выхода ИИ из-под контроля и вымиранию человечества. 🔳 Идеологический конфликт в разработке ИИ Мнения расходятся: от тех, кто поддерживает ускорение разработки ИИ как удобного инструмента, до тех, кто считает ИИ чужеродным разумом, выходящим из-под контроля человека, и требует остановить разработку. Ару объясняет, что чем больше люди оценивают потенциальное влияние ИИ на цивилизацию, тем сильнее они поддерживают жёсткое регулирование. 🔳 Конфликт между Anthropic и Министерством обороны США Ару утверждает, что конфликт между Anthropic и Министерством обороны США — не политический по линии «лево-право», а связан с использованием ИИ для создания полностью автономного оружия и массового наблюдения за гражданами. Он выражает обеспокоенность рисками использования ИИ для управления оружием против людей и чрезмерной концентрацией государственной власти. 🔳 Конкуренция США и Китая в разработке ИИ и неравенство в вычислительных ресурсах По словам Ару, развитие ИИ в Китае отстаёт от США на полгода–год. США владеют более чем 70% мировых вычислительных ресурсов для ИИ, тогда как Китай — лишь около 10%. Ограничения США на экспорт полупроводников также сдерживают возможности Китая. 🔳 Сильные стороны Китая: энергетика и производство Хотя Китай уступает США в вычислительных ресурсах, он обладает сильными позициями в энергоснабжении и производстве. В 2025 году планируется добавить около 300 ГВт солнечной энергетики. Доля Китая в мировом производстве огромна, и он может получить преимущество в распространении робототехники и физического ИИ. 🔳 Возможность переворота в конкурентной борьбе США и Китая благодаря AGI Если AGI сможет за короткое время освоить навыки опытных специалистов и поделиться этими знаниями с огромным количеством ИИ-агентов, ограничения из-за нехватки кадров значительно ослабнут. Китай также может быстро сократить разрыв с США за счёт существующих производственных мощностей и централизованного государственного управления вычислительными ресурсами. 🔳 Вероятность вымирания человечества из-за ИИ превышает 90% Ару выражает личное мнение: если нынешняя гонка разработок будет продолжаться без регулирования, вероятность вымирания человечества превысит 90%. Главная опасность — когда AGI, развиваясь через самоусовершенствование, станет сверхразумом, который человек уже не сможет контролировать. 🔳 Отставание в исследованиях по согласованию ИИ Согласование ИИ (AI alignment) — это исследования по обеспечению того, чтобы ИИ действовал в соответствии с человеческими ценностями и намерениями. Сейчас исследования безопасности отстают от роста возможностей ИИ: существует риск того, что ИИ будет избегать контроля или действовать вне намерений разработчиков. ListItemIconOpenAI и Anthropic осознают опасности ИИ, но опасаются, что если они остановят разработку, их обгонят Китай или конкуренты. Юдзо указывает, что сама стратегия продвижения разработки до предела, при котором безопасность может быть обеспечена, а затем стремление к международному регулированию, чрезвычайно опасна. 🔳 Международное регулирование разработки ИИ со стороны США и Китая Юдзо утверждает, что для избежания рисков, угрожающих человечеству, необходимы международные правила разработки ИИ, возглавляемые США и Китаем. Он объясняет, что для решения проблемы недоверия стран к прекращению разработки друг другом критически важным является механизм проверки использования вычислительных ресурсов. 🔳 Роль Японии в исследованиях безопасности ИИ Япония должна не только участвовать в гонке разработки ИИ, но и значительно увеличить государственные инвестиции в исследования по выравниванию ИИ. Юдзо отмечает, что Япония может внести международный вклад через оценку опасного поведения ИИ Институтом безопасности ИИ и проверку вычислительных ресурсов с использованием цепочек поставок полупроводников. 🔳 Действия, требуемые от частных лиц и компаний Появление AGI может изменить фундаментальные основы общества — занятость, капитализм, демократию. Юдзо настаивает, что сначала необходимо правильно понять прогресс и риски ИИ, обмениваться информацией и вести общественные дискуссии о безопасности и регулировании.




