Батько штучного інтелекту щойно пояснив, які небезпеки ШІ справді вдається вирішити, а які — ніколи. Одне речення, яке більшість людей пропустили. Джефрі Хінтон, людина, чиї дослідження заклали основу сучасного ШІ, сів, щоб оцінити регуляторні пропозиції, які зараз розглядаються. Найбільш запам’ятовуваним був жахливий сценарій. Найкориснішим був фільтр, який він вам надав. Ось він. Країни співпрацюють, коли їхні інтереси збігаються. І не співпрацюють, коли інтереси суперечать. Це одне правило говорить вам, які загрози ШІ будуть вирішені, а які — проігноровані. Подивіться, як чітко воно сортує все. Візьмемо глибокі фейки на виборах — підроблені відео, створені, щоб вплинути на голосування. Кожна країна вже робить це з кожною іншою. Інтереси суперечать. Тож ніхто справді не зупиняє це. Очікуйте шуму, але без реального розв’язання. Тепер уявіть, що сам ШІ вийде з-під контролю і захопить владу. Жодна урядова структура цього не хоче. Ні США. Ні Китай. Тут інтереси справді збігаються — і саме це є єдиною причиною, чому реальна угода взагалі можлива. Той самий погляд — протилежні висновки. Це ключ до кожної майбутньої заголовки про ШІ. Потім він розберав дві популярні, але неефективні пропозиції. Перша — аварійне вимкнення. Кнопка, щоб вимкнути шаленого ШІ. Його проблема з цим майже смішна. Суперінтелектуальна система буде кращою за будь-кого з людей у переконанні. Вона просто переконає людину, що охороняє кнопку, не тягнути її. Він каже, що вже зараз вона настільки переконлива, як людина. Кнопка не зможе вас врятувати від того, що може змінити думку того, хто її тримає. Друга — хитрощі, якими лабораторії хочуть вас обманути. Вони кажуть вам, що прогрес ШІ — це газ, а регулювання — гальмо. Правила просто повільняють усіх. Хінтон це перевертає. Прогрес — це газ. Регулювання — це кермо. Те, чого справді хочуть лабораторії — це дуже швидкий автомобіль без можливості керування. Сказане так — вся дискусія змінює форму. Отже, що він думає, що ми повинні робити? Не запирати розумнішу речь під своїм контролем. Він сумнівається, що це працюватиме. Його уявлення дивніше й чесніше. Єдиний приклад, коли щось розумніше керується чимось менш розумним — це немовля та мати. Мати на чолі. Але немовля керує нею, бо вона не може витримати його плач. Його припущення: ми повинні створити суперінтелект так, щоб він справді турбувався про нас більше, ніж про себе самого — навмисно, поки ми ще його проектуємо. Не клітка. Взаємовідносини. І він чесно каже: ми поки що не знаємо, як це зробити. Чи він оптиміст? Його точне слово — ні. Він сподівається. І вважає, що вікно, коли наш вибір ще визначає результат, зараз відкрите — і закривається. Одне речення з репортажу залишилося у мене найглибше: Інженери, які попереджають про небезпеку, роблять це не через гроші. Їхнє кредитне плече зараз існує лише тому, що боротьба за таланти робить їх важкозамінними. Тихий страх полягає в тому, що коли ШІ зможе покращувати себе сам, люди, якщо найкраще його розуміють, втратять саме те кредитне плече, яке використовують, щоб повільняти його. Прочитайте це двічі. Люди, як найкраще позиціоновані для попередження нас, перебувають під таймером, який сам ШІ намотує. Отже, наступного разу, коли з’явиться заголовок про безпеку ШІ — пропустіть страх і застосуйте фільтр. Чи збігаються інтереси чи суперечать? Це одне питання говорить вам: чи справжнє розв’язання чи лише театр. Якщо сьогоднішні боротьби за ШІ насправді вирозв’язуваннi, а якщо — просто всі грають роль?