Microsoft опубликовала проект кодекса поведения ИИ и запрашивает общественные комментарии в течение шести недель

ChainCatcher сообщает, что отдел ИИ Microsoft 14 сентября опубликовал проект этических норм для ИИ, запрещающий использование его моделей для помощи в создании химического, биологического, радиоактивного, ядерного или взрывоопасного оружия, а также запрещающий кибератаки и несогласованные глубокие подделки. Генеральный директор Мустафа Сулейман объявил о проекте на платформе X и открыл шестинедельный период сбора общественных комментариев, который завершится в конце октября. В проекте установлены «абсолютные ограничения», которые модели не могут обойти: они не могут сопротивляться вмешательству, отключению или корректировке со стороны человека, а также не могут скрывать процесс рассуждений; Microsoft также однозначно отвергает концепцию «благополучия модели», заявив, что ее ИИ-модели не имитируют эмоции, внутренние мотивы или сознание. В настоящее время эти нормы применяются к пяти развернутым системам, включая MAI-Thinking-1 и MAI-Code-1.1-Flash. Помимо жестких ограничений, проект предусматривает три основные цели: процветание человека, многообразие ценностей и человеческий контроль. Microsoft заявила, что текущие модели не будут обучаться на основе этой версии; пересмотренная версия будет опубликована к концу года и будет использоваться для руководства разработкой моделей 2027 года. Среди общественных отзывов — философские вопросы по поводу формулировки «ИИ подчиняется человеку», запросы о том, кто будет нести ответственность за необратимые решения, а также замечания пользователей о том, что в нормах не упоминается оплата за данные для обучения.