Відкрите штучне інтелектуальне програмне забезпечення йде небезпечним шляхом — цього тижня в Сіліконовій долині ведеться запекла суперечка щодо відкритих вагів. Nvidia @nvidia ініціювала відкритий лист, у якому стверджує, що Вашингтон не повинен обмежувати моделі з відкритими вагами. За минулий вихідний до підписантів приєдналися вже 50 організацій — OpenAI @OpenAI, Google та SpaceX поступово додалися. Єдина організація, яка ще не висловилася, — це @AnthropicAI, оскільки генеральний директор Anthropic стверджує, що відкрите ШІ йде небезпечним шляхом. Dario Amodei @DarioAmodei каже: коли ви контролюєте та розгортаєте модель, ви можете постійно стежити за тим, як її використовують; навіть якщо в деякий момент її використовують зловмисно, ви зможете втрутитися та змінити те, що модель бажає робити. Але коли модель випускається безконтрольно, ця здатність повністю втрачається — все, що залишається, — це випадок. Він зазначає, що зазвичай відкритість корисна для швидкої ітерації малих розробників, але зараз величезні компанії, які вклали десятки мільйонів або навіть сотні мільйонів доларів у навчання великих моделей, не мають права безконтрольно публікувати свої результати.