Генеральний директор MICROSOFT щойно назвав ШІ внутрішньою загрозою Сатая Наделла щойно опублікував статтю, яку повинні прочитати всі, хто використовує ШІ. 9 мільйонів переглядів за день. Його основна думка в одному реченні: «Нам потрібно розділити постачання інтелекту від влади над ним». Все, що він каже, що кожна компанія зараз повинна робити: -> Ніколи не дозволяйте одній моделі перевіряти власну роботу -> Кожна дія, яку виконує ШІ, залишає запис, який може прочитати людина. «Якщо цього не можна спостерігати, цьому не можна довіряти!» -> Компанія вирішує, до чого може стосуватися ШІ, а не сам ШІ -> Припустіть, що модель скомпрометована з першого дня. Людина завжди може зупинити її під час виконання завдання -> Коли вона не вдається, повідомте людей, яких це вплинуло Його останнє речення: «Найбільш надійна система наділленого інтелекту — це не та, у якій ми найбільше довіряємо моделі. Це та, яка дозволяє нам довіряти моделі найменше». Найбожевільніша частина: це генеральний директор однієї з найбільших компаній-продавців ШІ на планеті, який каже своїм клієнтам — не довіряйте моделям. Особисто я створив мініатюрну версію цього в червні. Правила, які моя модель читає перед тим, як працювати вночі: що вона може робити сама, що має запитувати мене, і що ніколи не може робити. Та ж ідея — один файл. Посилання в коментарях