Штучний інтелект стає кращим у генерації відповідей, але як ми можемо бути впевнені, що ці відповіді дійсно були згенеровані саме тією моделлю, яку ми мали на увазі? Я вважаю, що це набагато складніша проблема, ніж може здатися. Саме тому мене зацікавив FlashProve від Anthropic. Він пропонує спосіб перевірити, що відповідь була згенерована конкретною моделлю ШІ, не розголошуючи ваги моделі. Що робить це ще цікавішим — криптографія, що лежить в основі. FlashProve використовує хеш-основані STARK-технології для побудови своїх доказів, додаючи до процесу перевірки властивості постквантової безпеки. Є кілька деталей, які мені здаються особливо важливими: Криптографічні технології, вже використовувані в системах, таких як Starknet. Хеш-основані докази, які не залежать від припущень про еліптичні криві. Формальна верифікація в Lean, що допомагає забезпечити впевненість у правильності протоколу. Попередні фундаментальні роботи, пов’язані з Cairo та Stwo. Ще одна цікава зв’язка — АLESSANDRO CHIESA, співзасновник StarkWare, є одним із дослідників, що стоять за цією роботою. Для мене це показує, як технології, розроблені для перевірки обчислень, можуть вийти за межі блокчейну. З тим як ШІ стає частиною все більш важливих рішень, просто довіряти тому, що каже модель, може виявитися недостатньо. Нам також потрібні способи перевірити, що саме ця модель згенерувала вихід. Саме тут, на мою думку, поєднання ШІ та криптографічних доказів стає справді цінним. @Starknet — криптографічна технологія, що лежить в основі, тепер стає релевантною для набагато ширшого дискурсу, ніж лише блокчейн.
T.MessioПоділитися
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.