ИИ становится лучше в генерации ответов, но как мы можем быть уверены, что эти ответы действительно были сгенерированы той моделью, которую мы использовали? Я считаю, что это гораздо более серьезная проблема, чем может показаться на первый взгляд. Вот почему меня заинтересовал FlashProve от Anthropic. Он предлагает способ подтвердить, что ответ был сгенерирован конкретной моделью ИИ, не раскрывая веса модели. Еще более интересно то, что за этим стоит криптография. FlashProve использует хеш-основанные STARK-техники для построения своих доказательств, внедряя свойства постквантовой безопасности в процесс проверки. Есть несколько деталей, которые я считаю особенно важными: Криптографические технологии, уже используемые в системах, таких как Starknet. Хеш-основанные доказательства, не зависящие от предположений об эллиптических кривых. Формальная верификация на языке Lean, помогающая обеспечить уверенность в корректности протокола. Ранее проведенные фундаментальные работы, связанные с Cairo и Stwo. Еще один интересный факт: АLESSANDRO CHIESA, сооснователь StarkWare, является одним из исследователей, стоящих за этой работой. Для меня это демонстрирует, как технологии, разработанные для проверяемых вычислений, выходят за рамки блокчейна. По мере того как ИИ становится частью все более важных решений, доверие тому, что говорит модель, может перестать быть достаточным. Нам также нужны способы подтвердить, что именно эта модель сгенерировала вывод. Вот где, как я считаю, сочетание ИИ и криптографических доказательств становится по-настоящему ценным. @Starknet лежащая в основе криптографическая технология теперь имеет отношение к гораздо более широкому кругу вопросов, чем только блокчейн.
AntonyAlongПоделиться
Источник:Показать оригинал
Отказ от ответственности: Информация на этой странице может быть получена от третьих лиц и не обязательно отражает взгляды или мнения KuCoin. Данный контент предоставляется исключительно в общих информационных целях, без каких-либо заверений или гарантий, а также не может быть истолкован как финансовый или инвестиционный совет. KuCoin не несет ответственности за ошибки или упущения, а также за любые результаты, полученные в результате использования этой информации.
Инвестиции в цифровые активы могут быть рискованными. Пожалуйста, тщательно оценивайте риски, связанные с продуктом, и свою устойчивость к риску, исходя из собственных финансовых обстоятельств. Для получения более подробной информации, пожалуйста, ознакомьтесь с нашими Условиями использования и Уведомлением о риске.