На тлі посилення дискусій щодо безпеки ШІ, іноземні ЗМІ повідомляють, що Джеффрі Хінтон, Лі Фейфей та Ендрю Нг на конференції Ai4 у Лас-Вегасі зосередилися на питанні відкритих моделей. Їхні позиції не зовсім збігаються, але всі троє виступають проти того, щоб розвиток ШІ керувався невеликою кількістю великих технологічних компаній.
Проти монополізації входу кількома компаніями
У статті зазначається, що троє дослідників спільно переживають за те, що, якщо ШІ буде контролюватися кількома компаніями, простір для інновацій може скоротитися. У Енда зазначив, що не бажає бачити «вартових» у сфері ШІ, оскільки це обмежить спосіб, яким розробники, підприємства та громадськість отримують доступ до ШІ.
Він вважає, що великі компанії природньо захищають свої переваги й можуть впливати на формування галузевих правил. Як наслідок, лише компанії з найбільшим капіталом та найпотужнішими обчислювальними ресурсами зможуть постійно розробляти найсучасніші системи. Напрямок, запропонований Ун Дже, полягає в тому, щоб максимально підтримувати наявність кількох постачальників моделей, дозволяючи моделям і компаніям конкурувати на ринку, а не дозволяючи кільком платформам домінувати.
Хінтон розрізняє відкритий код та відкриті ваги
Однак Сінтон не вважає «відкрите програмне забезпечення» і «відкриті ваги моделей» однаковими речами. За його словами, відкрите програмне забезпечення робить код доступним, дозволяючи зовнішнім сторонам перевіряти вразливості та пропонувати зміни; відкриті ваги ж передають зовнішнім сторонам безпосередньо параметри навченої великої моделі, що значно знижує бар’єри для вторинної розробки.
Він зазначив, що раніше був проти відкриття ваг, оскільки це дозволило б деяким людям перетворювати базові моделі на інструменти для кібератак із меншими витратами. Однак він також визнав, що ця суперечка в реальності вже важко зворотна. Зі з’явленням моделей з відкритими вагами бар’єр, що раніше створювався витратами на навчання, був значно знижений.
Тим не менше, Хінтон не закликає припиняти розвиток ШІ. У статті зазначається, що він все ще вважає, що ШІ підвищить продуктивність та покращить освіту, охорону здоров’я та інші галузі, але це не означає, що потенційні ризики можна ігнорувати. Він також сказав, що несправедливо класифікувати всіх, хто висловлює занепокоєння щодо ризиків ШІ, як «провокаторів паніки».
Лі Фейфей виступає за ієрархічне відкриття
На відміну від Уенда, який підкреслював відкриту конкуренцію, і Хінтона, який звертав увагу на ризики безпеки, Лі Фейфей виступає проти спрощення дискусії до двох варіантів — «повна відкритість» або «повна закритість». Вона вважає, що складні програмні системи та наукові структури і так мають різні рівні, і різні етапи можуть передбачати різний ступінь відкритості.
Вона навела приклад ядерної фізики: академічні статті можуть бути публічно доступними, але уранові матеріали підлягають суворому регулюванню, а експерименти знаходяться між цими двома крайностями. Вона вважає, що штучний інтелект також може дотримуватися подібного підходу: зберігати певну відкритість у сфері наукових відкриттів, освіти та міжнародної співпраці, одночасно дозволяючи компаніям зберігати проприєтарні системи та бізнес-моделі.
У статті також зазначається, що Лі Фейфей посилається на Проект людського геному, щоб пояснити, що базова інфраструктура, створена шляхом співпраці між державними та приватними структурами, може одночасно підтримувати наукові дослідження, прибуток підприємств та соціальні застосування. Вона вважає, що інфраструктура ШІ також повинна розвиватися у цьому напрямку, а не заглиблюватися у дискусії «або-або».
Всі троє погодилися, що потрібна регуляція
Хоча троє різною мірою оцінюють межі відкритих моделей, їхні погляди на регулювання близькі. У статті зазначається, що всі вони вважають, що ШІ все ще потребує певного рівня правил, щоб розвиватися у бік, корисний для суспільства.
Хінтон вважає, що не можна повністю покласти на підприємців вирішення того, як має розвиватися ШІ. Суперечки навколо відкритих моделей зараз — це не просто суперечка щодо технічного напрямку, а й питання розподілу влади в галузі, міжнародної конкуренції та напрямку регулювання безпеки ШІ.