AI справжньо досягає масового рівня не залежно від того, скільки контенту він може генерувати, а від того, чи вірить суспільство у контент, який він генерує.

Автор статті, джерело: ME News



Коротко

• Центральне управління справами Інтернету Китаю розпочало другий етап спеціальної кампанії «Чистий інтернет: боротьба з хаосом у застосуванні ШІ», зосереджуючись на боротьбі зі створенням ШІ фальшивої інформації, непристойного та насильницького контенту, підробкою особистості та порушенням прав неповнолітніх. На даний момент було видалено понад 5,61 мільйона порушувальних повідомлень, заблоковано понад 49 000 акаунтів та припинено діяльність понад 2400 веб-сайтів та програм.
• Платформи штучного інтелекту, такі як DouBao, YuanBao, Qianwen та Wenxin Yiyan, активно вдосконалюють перевірку навчальних даних, фільтрацію безпеки моделей та механізми ідентифікації згенерованого контенту; основна мета — не обмеження можливостей ШІ, а зменшення ризиків зловживання технологією.
• Керування ШІ переходить від «видалення порушувальних матеріалів» до «контролю процесу створення контенту»: навчання моделей, джерела даних, етапи генерації та ланцюжки поширення стають ключовими об’єктами регулювання.
• Комерційна конкуренція у галузі генеративного ІІ в майбутньому буде залежати не лише від параметрів моделей та досвіду користувача, а й від здатності забезпечити безпеку, відповідність вимогам та довгострокову довіру.
• AI справжньо досягає масового рівня не залежно від того, скільки контенту він може генерувати, а від того, чи вірить суспільство у контент, який він генерує.

Швидкість розвитку штучного інтелекту постійно оновлює суспільне розуміння меж технологій.

Кілька років тому люди обговорювали ШІ, зосереджуючись на параметрах моделей, обчислювальній потужності, якості відповідей та комерційних сценаріях. Хто мав більшу модель та сильніші здібності до міркування, здавалося, мав перемогу у майбутньому.

Але після входу у етап масового застосування генеративного ІІ з’явилася більш реальна проблема: якщо ІІ може за кілька секунд створити текст, зображення, аудіо чи цілий набір інформації, що виглядає правдоподібно, хто забезпечить, що цей контент не стане новим інструментом для поширення дезінформації, маніпулювання громадською думкою та порушення прав?

Це не віддалена проблема.

Недавно Центральне управління інтернет-інфраструктури Китаю розпочало другий етап спеціальної кампанії «Чистий інтернет: боротьба з хаосом у застосуванні ШІ», спрямованої на вирішення цього реального ризику. Основна увага цієї кампанії зосереджена на припиненні використання ШІ для створення та поширення хибної інформації, поширення насильницького та непристойного контенту, підробки та імітації інших осіб, а також порушення прав неповнолітніх. На даний момент у рамках кампанії було видалено понад 5,61 мільйона порушувальних повідомлень, заблоковано понад 49 000 акаунтів та припинено діяльність понад 2400 веб-сайтів та програм.

Цифри, що стоять за цим, відображають не проблеми з самою технологією ШІ, а проблеми управління, з якими обов’язково стикається швидко розвиваючася галузь, коли вона входить у фазу зрілості.

Будь-яка технологія, що змінює спосіб функціонування суспільства, не має лише сторони підвищення ефективності.

Інтернет приніс свободу потоку інформації, а також поширення хибної інформації; мобільні платежі змінили фінансовий досвід і спричинили нові моделі шахрайства; короткі відео знизили бар’єри для створення контенту і створили середовище конкуренції за трафік.

Те саме стосується ІІ.

Він може підвищити продуктивність, а також посилити незаконні дії з низькими витратами.

Раніше створення фальшивої статті або підробленого відео вимагало великих людських зусиль. Але сьогодні ШІ знизив бар’єри для створення контенту, надавши звичайним користувачам можливість, близьку до можливостей професійних команд. Без відповідних механізмів управління технологічні переваги можуть бути використані кількома особами для створення хаосу.

Тому управління ШІ — це не гальмування інновацій, а додавання систем безпеки на швидкісній дорозі.

Багато людей можуть задатися питанням: чи не повинні бути ІІ максимально відкритими? Чому зараз все більше продуктів ІІ обмежують генерацію контенту?

Суть цього питання полягає у розумінні меж відповідальності продуктів штучного інтелекту.

Традиційне програмне забезпечення часто просто надає інструменти, але генеративний ІІ — це не просто інструмент. Він бере участь у процесі створення контенту та навіть безпосередньо впливає на сприйняття користувачів.

Коли користувачі ставлять запитання штучному інтелекту, вміст, що генерується моделлю, може впливати на інвестиційні рішення, рішення щодо здоров’я, навчання та навіть сприйняття громадських подій. Тому платформи ШІ не повинні зосереджуватися лише на «чи можна генерувати», але й враховувати «що генерувати», «чому генерувати» та «який вплив матиме генерація».

Платформи, такі як Доубао, Юаньбао, Цяньвень та Вэньсінь Іянь, підсилюють управління контентом, фактично створюючи нову систему безпеки AI-продуктів. Згідно з повідомленням Державної адміністрації кіберпростору, відповідні платформи проводять строгий аудит початкових мовних даних, підсилюють фільтрацію порушувального контенту та підсилюють вимоги до позначення AI-згенерованого та синтезованого контенту, зменшуючи ризики виникнення та поширення незаконної та порушувальної інформації з джерела. (Державна адміністрація ринкового регулювання)

Це означає, що управління ШІ більше не є лише «реактивним» підходом з часів традиційного інтернету.

Раніше платформа у випадку порушення правил більше звертала увагу на виявлення, видалення та блокування.

Але в епоху ШІ це інше.

Якщо проблема виникає на етапі генерації, просто видалення поширених матеріалів недостатнє, оскільки ШІ може безперервно генерувати нові варіанти, і та сама порушення можуть з’являтися знову у іншій формі.

Тому управління повинно бути зміщене вперед.

Від початку навчальних даних до контролю здібностей моделі та перевірки контенту, створеного користувачами, формується повний ланцюжок.

Просто кажучи, майбутні чудові продукти ШІ не просто точніше відповідатимуть на запитання, а й знатимуть, на які запитання не слід відповідати, які контенти не слід генерувати та в яких сценаріях обов’язково потрібно попереджати користувачів про ризики.

Тому здатність до безпеки з використанням ШІ стає частиною конкурентоспроможності продукту.

Проте управління ШІ — це не просто встановлення стіни «заборонити генерацію».

Якщо обмеження надто строгі, AI-продукти можуть втратити свою цінність.

Якщо обмежень недостатньо, це може призвести до ризику.

Це довготривала гра щодо кордонів.

Наприклад, користувач хоче, щоб ШІ допоміг написати роман, який містить елементи війни, злочинності, конфліктів — чи це вважається порушенням?

Дослідник хоче, щоб ШІ проаналізував вразливості кібербезпеки, як розрізнити їх від зловмисних атак?

Історичний ентузіаст хоче, щоб ШІ адаптував класичні твори — як визначити, чи це обґрунтована творчість чи низькість?

Ці питання свідчать, що управління ШІ не може залежати від простого фільтрування за ключовими словами.

Справжнє ефективне управління вимагає розуміння контексту.

Саме тому платформа постійно підсилює здатності багатомодального розпізнавання, динамічно розширюючи бази облич, голосових відбитків та бази порушуючих зразків. Платформи, такі як Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban та Taobao, за допомогою технологій підвищують здатність AI до розпізнавання та видалення контенту, а також опублікували 46 повідомлень щодо управління. (Державна адміністрація ринкових регулювань)

Майбутня конкуренція в галузі безпеки ШІ, ймовірно, буде схожа на галузь автономного вождення.

Справжня передова система не забороняє повністю рух автомобілів, а допомагає їм безпечно рухатися в складних умовах.

Те саме стосується ІІ.

Досвідчений ІІ — це не система, яка нічого не може робити, а та, що знаходить баланс між відкритими можливостями та контролем ризиків.

Деякі випадки, оголошені під час цієї спеціальної кампанії, також демонструють нові форми зловживання ШІ.

Однією з типових проблем є використання ШІ для низькоякісних адаптацій класичних творів.

Раніше, хоча виробництво онлайн-контенту містило низькоякісні елементи, витрати на виробництво все ще обмежували масштаб.

Після появи ШІ став можливим масовий генераційний процес.

Деякі облікові записи використовують ШІ для «модифікації» класичних творів, таких як «Троянська війна» та «Подорож на Захід», змінюючи образи персонажів і створюючи дивні сюжети, щоб привернути увагу. Цей контент, на перший погляд, є лише розвагою, але тривалий та масовий розповсюдження може вплинути на розуміння публікою культурного контенту, а також витратити екосистему якісного контенту.

Ще одна проблема — це штучний інтелект, що генерує хибну інформацію.

Раніше для створення фальшивого зображення або відео вимагалися високі технічні навички.

Зараз генеративний ІІ знизив бар’єри для входу.

Фальшиві сцени катастроф, фальшиві соціальні тренди та мошеництва з використанням AI-цифрових осіб можуть використовувати інформаційний дисбаланс громадськості для створення впливу. Серед випадків, про які повідомив департамент мережевої безпеки, — використання AI для генерації фальшивих зображень катастроф, вигадування інформації про соціальні тренди та проведення фальшивої реклами за допомогою цифрових осіб.

Ще більш важливим є використання AI для заміни обличчя та голосу.

Звук і обличчя — це важливі критерії, за якими люди визначають ідентичність.

Коли ШІ може імітувати голос, вираз обличчя та навіть поведінкові звички людини, система довіри до особистості стикається з новими викликами.

Це стосується не лише публічних особистостей, але й звичайних користувачів.

Сьогодні фотографія, аудіоматеріали людини можуть стати джерелом даних, які можуть бути зловживані.

Тому захист даних у епоху ШІ — це не лише запобігання витоку інформації, а й запобігання цифровій копії особистості.

Протягом останніх кількох років китайська галузь ШІ швидко розвивалася.

Від розробки великих моделей до розумних асистентів, а потім до застосувань у сфері офісної роботи, освіти, електронної комерції, пошуку та інших — ШІ переходить від етапу технічних демонстрацій до етапу практичного застосування.

Але чим ближче до звичайних користувачів, тим важливішими стають питання безпеки.

Підприємство може прийняти, що модель іноді дає неправильні відповіді, але важко прийняти, щоб модель постійно створювала хибну інформацію.

Користувач може прийняти обмежені можливості ШІ, але важко прийняти, що ШІ допомагає створювати шахрайство.

Отже, майбутня конкуренція в галузі ШІ не буде лише конкуренцією технологій.

Розмір параметрів, звичайно, важливий, здатність алгоритму, звичайно, важлива, але також важливо й довіра.

Чому фінансова галузь приділяє велику увагу відповідності?

Фінансові продукти з’єднують кошти.

Чому медична галузь приділяє велику увагу безпеці?

Оскільки медичні рішення впливають на життя.

А І поступово з’єднує знання, інформацію та прийняття рішень.

Також потрібно побудувати основу довіри.

З цієї точки зору, ця кампанія з регулювання інформаційної безпеки не спрямована проти розвитку ШІ, а сприяє переходу індустрії ШІ до більш зрілої стадії. Чітке визначення меж регулювання, підвищення здатностей платформ та зростання розуміння користувачів — усі ці фактори призводять до формування більш здорового екосистеми.

Історія технічного розвитку неодноразово доводила, що галузь справді дозріває не тоді, коли вона здатна створювати чудеса, а тоді, коли вона здатна вирішувати багато проблем.

Штучний інтелект вже довів свою креативність.

Він може допомогти людям писати, програмувати, вчитися, а також сприяти підвищенню ефективності бізнесу.

Але на наступному етапі ІШ має довести ще одну річ: чи варта вона довіри.

Платформи Доубао, Юаньбао, Цяньвэнь, Вэньсінь Іянь тощо посилюють обмеження на порушуючі контент, суттєво відповідаючи на ключове питання:

Коли штучний інтелект набуває все більшої творчої здатності, чи має він відповідну відповідальність?

Рішення визначає не лише напрямок розвитку кількох продуктів ШІ, а й те, чи зможе весь індустрійний сектор увійти у тривалий стабільний цикл розвитку.

Майбутнє штучного інтелекту належить не системам, які лише створюють більше контенту, а тим, що здатні знайти баланс між креативністю, безпекою та соціальною цінністю.

Справжні великі технології ніколи не відомі тим, що вони здатні на все, а тим, що знають, чого не можуть робити, і чому не можуть.

1. Центральне управління кібербезпеки та інформаційної інфраструктури: «Центральне управління кібербезпеки активно проводить другий етап спеціальної кампанії „Чистий інтернет: боротьба з хаосом у застосунках ШІ“», 2 вересня 2026 року.
2. Центральне управління з кібербезпеки та інформаційної інфраструктури: «Центральне управління з кібербезпеки розпочало спеціальну кампанію „Чистий інтернет: боротьба з хаосом у застосунках ШІ“», 30 квітня 2026 року.
3. «Тимчасові правила регулювання послуг генеративного штучного інтелекту», Державна адміністрація інтернет-інформації Китаю та інші відомства, 2023 рік.
4. «Положення про ідентифікацію змісту, згенерованого штучним інтелектом», Державне управління інформаційної мережі Китаю та інші органи, 2025 рік.
5. Russell, Stuart & Norvig, Peter. Штучний інтелект: сучасний підхід. Pearson.
6. Шнейдерман, Бен.Human-Centered AI. Oxford University Press.