Сможет ли Mira Network решить проблему «галлюцинаций» больших моделей ИИ?

Автор: Haotian

Все знают, что главной преградой для внедрения больших моделей ИИ в такие вертикальные области применения, как финансы, медицина и право, является проблема «галлюцинаций» в результатах, которые не соответствуют требованиям точности в реальных приложениях. Как это решить? Недавно @Mira_Network запустила публичную тестовую сеть и предложила решение, давайте я расскажу, в чем дело:

Во-первых, в инструментах больших моделей ИИ существует ситуация «галлюцинаций», которую все могут ощутить, и причиной этого в основном являются две причины:

1. Данные для обучения AI LLMs недостаточно полные, несмотря на то, что объем данных очень большой, они все еще не могут охватить информацию из некоторых нишевых или специализированных областей, в таких случаях AI склонен к «творческому дополнению», что приводит к некоторым ошибкам в реальном времени;

2. AI LLMs по своей сути зависят от «вероятностного выборки», которая распознает статистические паттерны и корреляции в обучающих данных, а не «понимание» в истинном смысле. Поэтому случайность вероятностного выбора, несоответствия в обучении и выводах могут привести к отклонениям AI при обработке фактических вопросов высокой точности.

Как же решить эту проблему? На платформе ArXiv Корнельского университета была опубликована статья, в которой представлен метод повышения надежности результатов LLMs с помощью совместной верификации нескольких моделей.

Простое понимание заключается в том, что сначала основной модель генерирует результаты, затем интегрируются несколько моделей проверки для проведения «анализa голосования большинства» по данной проблеме, что позволяет снизить вероятность появления «иллюзий», создаваемых моделью.

В серии тестов было установлено, что этот метод может повысить точность вывода ИИ до 95,6%.

В таком случае определенно нужна распределенная верификационная платформа для управления и проверки процесса взаимодействия между основной моделью и моделью верификации. Mira Network — это именно такая промежуточная сеть, специально созданная для верификации AI LLMs, которая строит надежный уровень верификации между пользователем и базовой AI моделью.

С появлением этой сети уровня верификации можно реализовать интеграционные услуги, включая защиту конфиденциальности, обеспечение точности, масштабируемый дизайн и стандартизированные API-интерфейсы. Это также может увеличить возможность внедрения ИИ в различных нишевых сценариях, благодаря уменьшению галлюцинаций в выводах ИИ LLMs. Это практическое применение дистрибутивной сети верификации Crypto в процессе реализации ИИ LLMs.

Например, Mira Network поделилась несколькими примерами в области финансов, образования и экосистемы блокчейна.

1）Gigabrain, после интеграции с Mira, система может добавить дополнительный уровень верификации точности рыночного анализа и прогнозов, фильтруя ненадежные советы, что может повысить точность AI торговых сигналов и сделать применение AI LLMs в сценариях DeFi более надежным.

2. Learnrite использует mira для проверки стандартизированных экзаменационных вопросов, сгенерированных ИИ, позволяя образовательным учреждениям в массовом порядке использовать контент, созданный ИИ, при этом не влияя на точность содержания образовательных тестов, чтобы поддерживать строгие образовательные стандарты;

3. Проект блокчейн Kernel использует механизм согласования LLM от Mira, интегрируя его в экосистему BNB, создавая децентрализованную сеть валидации DVN, что обеспечивает определённый уровень точности и безопасности выполнения AI вычислений в блокчейне.

Выше.

На самом деле, Mira Network предоставляет услуги промежуточной сети консенсуса, и это определенно не единственный способ улучшения возможностей AI-приложений. На самом деле, существуют и другие варианты, такие как улучшение через обучение на уровне данных, улучшение через взаимодействие многомодальных больших моделей, а также улучшение за счет вычислений с конфиденциальностью с использованием таких потенциальных криптографических технологий, как ZKP, FHE, TEE и т.д. Однако, по сравнению с этим, решение Mira ценится за быструю реализацию на практике и прямой эффект.