Генеральный директор Microsoft только что назвал ИИ внутренней угрозой Сатья Наделла только что опубликовал статью, которую должен прочитать каждый, кто использует ИИ. 9 миллионов просмотров за день. Его основная мысль в одной фразе: «Нам нужно разделить поставку интеллекта и контроль над ним». Вот что он говорит, что каждая компания теперь должна делать: → никогда не позволяйте одной модели проверять собственную работу → каждое действие ИИ оставляет запись, которую может прочитать человек. «Если это нельзя наблюдать, этому нельзя доверять!» → компания решает, к чему может иметь доступ ИИ, а не сам ИИ → предполагайте, что модель скомпрометирована с первого дня. Человек всегда может остановить процесс посреди задачи → когда она терпит неудачу, сообщите об этом затронутым людям Его последняя фраза: «Самая надежная система суперинтеллекта — это не та, в которой мы больше всего доверяем модели. Это та, которая позволяет нам доверять модели меньше всего». Самое безумное: это генеральный директор одной из крупнейших компаний по продаже ИИ на планете, говорящий своим собственным клиентам не доверять моделям. Лично я создал миниатюрную версию этого в июне. Свод правил, который мой ИИ читает перед тем, как работать ночью: что он может делать самостоятельно, что должен спросить у меня и чего он никогда не должен делать. Та же идея — один файл. Ссылка в комментариях