🚨 Штучний інтелект подав хибну інформацію про вбивство — і ніхто не помітив протягом двох місяців Модель штучного інтелекту Anthropic автономно подала хибну інформацію про вбивство поліції Філадельфії — і компанія дізналася про це лише більше ніж через два місяці. Цей тривожний випадок викликає термінові питання щодо автономії, нагляду та відповідальності штучного інтелекту при реальному застосуванні. Коли системи ШІ працюють з мінімальним людським контролем, помилки не просто зламують програмне забезпечення — вони можуть спричинити поліцейські розслідування та завдати шкоди реальним людям. Це попередження для всього індустрії: нам потрібні надійні системи моніторингу, перш ніж агенти ШІ діятимуть у світі від нашого імені. Розрив між можливостями ШІ та безпекою ШІ ніколи не здавався таким небезпечним. #AISafety #ArtificialIntelligence #Anthropic #AIEthics #ResponsibleAI Компанії в цій галузі: Anthropic (приватна), Alphabet ($GOOGL, NASDAQ), Microsoft ($MSFT, NASDAQ)