¿Puede la red Mira resolver el problema de "alucinaciones" de los grandes modelos de IA?

Escrito por: Haotian

Todos son conscientes de que el mayor obstáculo para la implementación de grandes modelos de IA en aplicaciones verticales como finanzas, salud y derecho es un solo problema: la “ilusión” en los resultados generados por la IA que no puede coincidir con la precisión requerida en escenarios de aplicación reales. ¿Cómo se puede resolver? Recientemente, @Mira_Network lanzó una red de pruebas pública y presentó una solución. Permítanme explicar de qué se trata:

Primero, las herramientas de modelos de IA grandes tienen la situación de “alucinaciones”, lo cual todos pueden percibir, y las razones son principalmente dos:

1. Los datos de entrenamiento de los LLMs de IA no son lo suficientemente completos, aunque ya hay una gran cantidad de datos, aún no pueden cubrir información de nicho o de campos especializados, en este momento la IA tiende a hacer “completaciones creativas” lo que lleva a algunos errores en tiempo real;

2. Esencialmente, los LLM de IA dependen de “muestreo probabilístico”, que reconoce patrones estadísticos y correlaciones en los datos de entrenamiento, en lugar de “comprender” realmente. Por lo tanto, la aleatoriedad del muestreo probabilístico, la inconsistencia en los resultados de entrenamiento y razonamiento, etc., pueden llevar a que la IA tenga sesgos al tratar con problemas de hechos de alta precisión.

¿Cómo resolver este problema? Se ha publicado un artículo en la plataforma ArXiv de la Universidad de Cornell sobre un método para mejorar la confiabilidad de los resultados de los LLM a través de la validación conjunta de múltiples modelos.

Una comprensión sencilla es que primero se permite que el modelo principal genere resultados, y luego se integran múltiples modelos de verificación para realizar un «análisis de votación mayoritaria» sobre el problema, lo que puede reducir las «ilusiones» producidas por el modelo.

En una serie de pruebas se descubrió que este método puede aumentar la precisión de la salida de IA al 95.6%.

Dado que es así, definitivamente se necesita una plataforma de validación distribuida para gestionar y validar el proceso de interacción colaborativa entre el modelo principal y el modelo de validación. Mira Network es una red de middleware especializada en la verificación de AI LLMs, que construye una capa de validación confiable entre los usuarios y los modelos de IA básicos.

Con la existencia de esta red de capa de verificación, se pueden lograr servicios integrados que incluyen protección de la privacidad, garantía de precisión, diseño escalable, interfaces API estandarizadas, etc. Esto puede ampliar la posibilidad de implementación de la IA en varios escenarios de aplicación al reducir las ilusiones en las salidas de los LLMs de IA, y también es una práctica de cómo la red de verificación distribuida de Crypto puede desempeñar un papel en el proceso de implementación de los LLMs de IA.

Por ejemplo, Mira Network compartió varios casos en el ámbito financiero, educativo y del ecosistema blockchain que pueden servir como evidencia:

1. Gigabrain, una plataforma de intercambio integrada con Mira, puede añadir una verificación adicional a la precisión del análisis y las predicciones del mercado, filtrando las recomendaciones poco fiables, lo que puede aumentar la precisión de las señales de negociación de IA, haciendo que los LLMs de IA sean más confiables en escenarios DeFai.

2. Learnrite utiliza mira para verificar las preguntas de examen estandarizadas generadas por IA, permitiendo que las instituciones educativas utilicen a gran escala contenido generado por IA, mientras se mantiene la precisión del contenido de las pruebas educativas para preservar altos estándares educativos.

3. El proyecto de blockchain Kernel utiliza el mecanismo de consenso LLM de Mira, integrándolo en el ecosistema de BNB, creando una red de validación descentralizada (DVN), lo que garantiza en cierta medida la precisión y seguridad de la ejecución de cálculos de IA en la blockchain.

Eso es todo.

En realidad, Mira Network ofrece servicios de red de consenso intermedia, y definitivamente no es la única forma de mejorar la capacidad de las aplicaciones de IA. De hecho, hay rutas alternativas como el refuerzo a través del entrenamiento en el lado de los datos, el refuerzo a través de la interacción de grandes modelos multimodales, así como el refuerzo de la computación privada mediante tecnologías criptográficas potenciales como ZKP, FHE, TEE, etc. Sin embargo, en comparación, la solución de Mira se destaca por su rápida implementación práctica y resultados directos.