Крестный отец ИИ только что объяснил, какие опасности ИИ действительно удастся решить, а какие — никогда. Одно предложение, которое большинство пропустили. Джеффри Хинтон, человек, чьи исследования заложили основы современного ИИ, сел, чтобы проанализировать предлагаемые сейчас регуляторные меры. Самое цепляющее — это история ужаса. Самое полезное — фильтр, который он вам дал. Вот он. Страны сотрудничают, когда их интересы совпадают. Не сотрудничают, когда они противоречат друг другу. Это одно правило говорит вам, какие угрозы ИИ будут решены, а какие проигнорированы. Посмотрите, как чётко оно сортирует всё. Возьмём глубокие фейки на выборах — поддельные видео, созданные, чтобы повлиять на голосование. Каждая страна уже делает это со всеми остальными. Интересы противоречат. Поэтому никто по-настоящему не остановит это. Ожидайте шума, но никаких реальных решений. Теперь возьмём сам ИИ, который выйдет из-под контроля и захватит власть. Никакое правительство этого не хочет. Ни США. Ни Китай. Здесь интересы действительно совпадают — и только поэтому реальное соглашение вообще возможно. Тот же фильтр — противоположные ответы. Это ключ к каждому заголовку об ИИ, который ещё придёт. Затем он разобрал две популярные, но бесполезные меры. Первая — аварийный выключатель. Кнопка, чтобы отключить «сбившийся» ИИ. Его возражение против этого почти смешно. Сверхразумная система будет лучше любого человека в убеждении. Она просто уговорит человека, охраняющего выключатель, не нажимать его. Он говорит, что уже сейчас она примерно так же убедительна, как человек. Выключатель не спасёт вас от того, кто может изменить мнение того, кто его держит. Вторая — ловушка с формулировкой, которую лаборатории хотят, чтобы вы приняли. Они говорят вам: прогресс ИИ — это акселератор, а регулирование — тормоз. Правила просто замедляют всех. Хинтон переворачивает это. Прогресс — это акселератор. Регулирование — это руль. То, что лаборатории на самом деле хотят — это очень быстрая машина без руля. Сказано так — вся дискуссия меняет форму. Что же он думает, что нам следует делать? Не запирать более умную сущность под своим контролем. Он сомневается, что это сработает. Его представление страннее и честнее. Единственный пример того, как что-то более умное руководится чем-то менее умным — это ребёнок и мать. Мать в ответе. Но ребёнок управляет ею, потому что она не может вынести его плач. Его предположение: мы намеренно создадим сверхразум, который будет заботиться о нас больше, чем о себе самом, пока мы ещё его проектируем. Не клетка. Отношения. И он откровенно говорит: мы пока не знаем, как это сделать. Он оптимист? Его точное слово — нет. Он надеется. И считает, что окно, в котором наши решения всё ещё определяют исход, открыто прямо сейчас и закрывается. Одна фраза из репортажа запомнилась мне больше всего. Инженеры, поднимающие тревогу, делают это не ради денег. Сегодня они обладают рычагами только потому, что конкуренция за таланты делает их труднозаменимыми. Тихий страх в том, что как только ИИ сможет улучшать себя сам, люди, которые лучше всего его понимают, потеряют именно тот рычаг, который используют, чтобы замедлить его. Прочтите это дважды. Люди, лучше всех способные предупредить нас, находятся под таймером, который сам ИИ запускает. Поэтому в следующий раз, когда появится заголовок о безопасности ИИ — пропустите страх и примените фильтр. Совпадают ли интересы или противоречат? Этот единственный вопрос говорит вам: решение реальное или театр? Какие из сегодняшних битв вокруг ИИ на самом деле решаемы, а какие — просто все притворяются?