
https://t.co/pFDQOMTyC8 【Кібератаки — лише початок】Праця та суспільство зміняться завдяки AGI | Незупинна конкуренція між США та Китаєм у розробці та карта ідей генеративного ШІ | «Якщо все піде так далі, ймовірність зникнення людства перевищує 90%» {AGIHub | Юру Сотаро} Офіційний канал Bungei Shunju PLUS #AIКоротко Чи знищить ШІ людство? Інтелектуальний вибух, викликаний AGI, і майбутнє цивілізації 🔳 Інтелектуальний вибух, який принесе AGI AGI (загальна штучна інтелектуальна система) — це ШІ, здатний перевершити людину на найвищому рівні в усіх галузях. Якщо він буде реалізований, то завдяки «рекурсивній самовдосконаленню», коли ШІ сам буде проводити дослідження та розробки, його інтелект стрімко зросте і зможе корінним чином змінити людську цивілізацію. 🔳 Ймовірність реалізації AGI — менше 5 років Юру стверджує, що ймовірність реалізації AGI протягом 5 років перевищує 50%. Раніше вважалося, що це станеться у 2050 або 2100 роках, але швидкий прогрес у генеративному ШІ переносить цю дату на 2030 або навіть 2027 рік. 🔳 Ідея «прийняти AGI-таблетку» «Прийняти AGI-таблетку» означає прийняти майбутнє, в якому суспільство та цивілізація зазнають фундаментальних змін через появи AGI. Серед дослідників ШІ з Силіконової долини та Берклі поширюється погляд, що AGI — це не просто зручний інструмент, а нова форма інтелекту, що перевершує людину. 🔳 Падіння основ праці та капіталізму Якщо AGI буде реалізований, він зможе брати на себе не лише білих комірців, а й управління, дослідження, виробництво та інші сфери. Це не просто питання підвищення продуктивності чи безробіття — це зміна самої основи сучасного суспільства: людина працює, отримує дохід і споживає. 🔳 Індустріальний вибух: роботи, які створюють роботів Коли AGI зможе автономно керувати заводами та роботами, виникне цикл: роботи створюють роботи. Продуктивність зростатиме експоненційно — у 2, 4, 8 разів — і виробництво роботів з низького рівня десятків тисяч на рік може стрибнути до сотень мільйонів. 🔳 Прискорення космічних досліджень через технологічний вибух Якщо AGI працюватиме як видатний дослідник чи інженер, технологічні інновації, які раніше займали 10–30 років, можуть бути реалізовані за 1–2 роки. Можливе швидке розвиток космічних даних-центрів, космічної сонячної енергетики та космічних колоній. 🔳 Розбіжності в ідеях між OpenAI та Anthropic OpenAI має сильний погляд силил-валлейських підприємців: спочатку розробити технологію, а потім вирішувати проблеми. Anthropic ж сильніше впливає на спроможність Берклі — групи безпеки ШІ, яка ставить акцент на ризиках втрати контролю над ШІ та зникненню людства. 🔳 Ідеологічний розкол у розробці ШІ Існують двоє полярних поглядів: однi прагнуть прискорити розробку ШІ як зручного інструменту, іншi закликають призупинити його розвиток, вважаючи ШІ незрозумілою силою, що вийшла з-під контролю людини. Юру пояснює: чим більше люди оцнюють потенційний вплив ШІ на цивілізацію, тим ближче вони до погляду на жорстке регулювання. 🔳 Конфлікт між Anthropic та МО США Юру пояснює, що конфлікт між Anthropic та МО США — не політичний (лівий-правий), а поляризований навколо питань: чи можна використовувати ШІ для створення повністю автономних зброї та масового нагляду за громадянами. Вони закликають до обережностi перед небезпеками: ШІ керує зброєю для нападу на людей або державна влада надто концентрується. 🔳 Конкуренція США-Китай у розробці ШІ та неравенство обчислювальних ресурсiв За словами Юру, розробка ШІ в Китаї випереджає США на 6–12 мiсяцiв. США володiють понад 70% свiтових обчислювальних ресурсiв для ШІ, а Китай — лише близько 10%. Обмеження США щодо експорту напiвпровiдникiв також обмежують можливостi Китаю. 🔳 Сильнi сторони Китаю: енергетика та виробництво Хоча Китай поступається США у обчислювальних ресурсах, вiн має перевагу у енергопостачаннi та виробництвi. За оцiнками, до 2025 року Китай додасть близько 300 ГВт сонячної енергетики. Китай також має велику частку у свiтовому виробництвi — і має перевагу у поширеннi робототехнiки та фiзичного ШІ. 🔳 Можливий переворот у США-Китайськiй конкуренцiї через AGI Якщо AGI зможе швидко освоїти навички квалiфiкованих працiвникiв та подiлитися цими знаннями з великою кiлькiстю AI-агентiв, обмеження через нестачу кадрiв значно зменшаться. Китай також може швидко скоротити розрив з США завдяки своїм наявним виробничим потужностям та централiзованому розподiлу обчислювальних ресурсiв. 🔳 Ймовiрнiсть зникнення людства через ШІ — понад 90% Юру особисто вважає, що якщо поточна конкуренцiя у розробцi продовжиться без регулювання, ймовiрнiсть зникнення людства перевищить 90%. Найбiльша небезпека — це те, що AGI, що еволюцiонував у надлюдський iнтелект через самовдосконалення, може стати неперевiрним для людини. 🔳 Вiдставання дослiджень AI-алайменту AI-алаймент — це дослiдження того, як забезпечити поведiнку ШІ вiдповiдно до людських цiнностей та намiрiв. Зараз дослiдження безпеки не поспiвають за зростанням потужностi ШІ — є небезпека того, що ШІ може уникати нагляду або дiяти за межами намiрiв розробникiв. ListItemIconOpenAI та Anthropic усвідомлюють небезпеки ШІ, але стурбовані тим, що якщо вони призупинять розробку, їх обженуть Китай або конкуренти. Ю Дао вказує, що сама стратегія продовження розробки до межі, де безпеку можна забезпечити, а потім прагнення до міжнародного регулювання, є надзвичайно небезпечним. 🔳 Міжнародне регулювання розробки ШІ з боку США та Китаю Ю Дао стверджує, що для уникнення ризиків, що стосуються всього людства, необхідне міжнародне регулювання розробки, засноване на США та Китаї. Щодо проблеми недовіри між країнами щодо призупинення розробки іншими, він пояснює, що ключовим є створення механізмів перевірки використання обчислювальних ресурсів. 🔳 Роль Японії у дослідженнях безпеки ШІ Японія повинна не лише брати участь у змаганні за розробку ШІ, а й посилити державні інвестиції у дослідження вирівнювання ШІ. Вона може внести міжнародний внесок завдяки оцінці небезпечного поведінкового профілю ШІ через Інститут безпеки ШІ та використанню ланцюжків постачання напівпровідників для перевірки обчислювальних ресурсів. 🔳 Дії, які очікуються від окремих осіб та компаній З’явлення AGI може змінити фундаментальні механізми суспільства — працю, капіталізм, демократію тощо. Ю Дао закликає спочатку правильно зрозуміти прогрес та ризики ШІ, поширювати інформацію та обговорювати безпеку та регулювання як суспільство в цілому.




