Le PDG de Palantir, Alex Karp, a critiqué le modèle de tarification basé sur les tokens utilisé par les laboratoires d'intelligence artificielle américains Anthropic et OpenAI lors de son passage sur CNBC's Squawk Box mercredi. Karp a déclaré que « quelque chose a complètement déraillé » dans l'approche actuelle alors que les coûts de l'IA explosent et que les entreprises s'éloignent du comportement dit de « tokenmaxxing ». Cette critique intervient alors que les entreprises privilégient de plus en plus le retour sur investissement par rapport à la consommation de tokens, beaucoup d'entre elles construisant désormais leurs propres outils d'IA propriétaires plutôt que de dépendre des modèles des laboratoires de pointe.
Karp critique le modèle de tokens alors que les coûts de l'IA grimpent
Karp a déclaré à CNBC que l'approche de tarification basée sur les tokens a créé des problèmes pour les entreprises. « Je ne leur jette pas la pierre, mais quelque chose a complètement déraillé », a-t-il dit. « L'avis général parmi les entreprises de ce pays est : "Je vais me détendre et perdre mon temps avec des tokens." »
Alors que les nouveaux modèles d'IA s'avèrent plus coûteux que les précédents, les entreprises s'éloignent du tokenmaxxing pour privilégier le retour sur investissement. Cette situation incite certaines entreprises à adopter des modèles à poids ouverts, capables d'effectuer des tâches similaires à une fraction du prix.
Karp a déclaré à CNBC que l'industrie ne devrait pas sous-estimer la rapidité avec laquelle la Chine progresse dans la construction de modèles d'IA. Les modèles chinois accélèrent leurs capacités, suscitant des inquiétudes quant à une possible rattrapage du rival de l'IA vis-à-vis des laboratoires de pointe américains.
Palantir annonce un partenariat élargi avec Nvidia
Plus tôt cette semaine, Palantir a annoncé un partenariat élargi avec Nvidia pour utiliser les outils d'IA du géant des puces afin de construire des modèles personnalisés pour les agences gouvernementales américaines.
Karp considère les modèles à poids ouverts comme une solution potentielle pour les PDG frustrés par les laboratoires d'IA. « Ce qui se passe parmi les acteurs les plus techniques, c'est qu'ils disent : "Je veux quelque chose qui m'appartienne. C'est mon entreprise" », a-t-il déclaré.
Les entreprises se tournent vers les modèles d'IA propriétaires
De nombreuses entreprises passent de l'utilisation de modèles d'IA très étendus à la construction et à l'entraînement de leurs propres outils propriétaires plus efficaces. Cette tendance reflète une insatisfaction croissante face à la structure de coûts des offres existantes des laboratoires d'IA et un désir de plus grand contrôle sur l'infrastructure d'IA.
FAQ
Qu'a dit le PDG de Palantir, Alex Karp, à propos du modèle de tokens d'OpenAI et d'Anthropic ?
Karp a déclaré sur CNBC's Squawk Box mercredi que « quelque chose a complètement déraillé » avec le modèle de tarification basé sur les tokens utilisé par Anthropic et OpenAI, critiquant cette approche alors que les coûts de l'IA grimpent.
Quel partenariat Palantir a-t-il annoncé plus tôt cette semaine ?
Palantir a annoncé plus tôt cette semaine un partenariat élargi avec Nvidia pour utiliser les outils d'IA du géant des puces afin de construire des modèles personnalisés pour les agences gouvernementales américaines.
Pourquoi les entreprises s'éloignent-elles du tokenmaxxing ?
Les entreprises s'éloignent du tokenmaxxing pour se concentrer sur le retour sur investissement alors que les nouveaux modèles d'IA s'avèrent plus coûteux que les précédents, beaucoup adoptant des modèles à poids ouverts capables d'effectuer des tâches similaires à une fraction du prix.