MIT : Pas besoin de paniquer face à l'apocalypse de l'IA, la capacité de vérification est une ressource rare

Source: Bankless Podcast; Compiled by: Felix, PANews

L’économiste du MIT, Christian Catalini, est invité dans l’émission de Ryan et David pour discuter de son nouvel article “Une simple économie de l’intelligence artificielle générale”. Cet article souligne que la ressource rare dans l’économie de l’IA n’est plus l’intelligence, mais la vérification : c’est-à-dire la capacité humaine à examiner, juger et confirmer la justesse des résultats de l’IA.

Christian détaille deux courbes de coûts qui redéfinissent diverses industries (coûts d’automatisation et coûts de vérification), expliquant pourquoi les emplois d’entrée de gamme disparaissent en premier et pourquoi même les experts de haut niveau cultivent involontairement leurs propres remplaçants (le “fléau des codeurs”). Il décrit également trois rôles qui peuvent être préservés dans cette transformation : les administrateurs, les créateurs de sens et les souscripteurs de responsabilité.

PANews a compilé les points forts de la conversation.

Animateur : Je pense que de nombreux auditeurs, comme moi, ressentent une certaine panique face à l’IA. Pourquoi pensez-vous que les gens s’inquiètent de l’IA ? Leurs inquiétudes sont-elles fondées ?

Christian : Nous ressentons tous cela. C’est une période de changement rapide et transformationnel, plus vous êtes proche du code, plus vous êtes susceptible de témoigner de cette accélération, cette croissance exponentielle est devenue très réelle ces derniers mois. Cette technologie a réalisé des choses que beaucoup pensaient nécessiter plus de temps pour être accomplies, et ce sentiment est quelque chose que nous essayons tous de gérer. Mais je pense que le catastrophisme est erroné, les gens sous-estiment souvent le potentiel de ces outils. Oui, il y aura une période de transition extrêmement difficile, et la vitesse de transformation des emplois est sans précédent dans l’histoire. Néanmoins, si vous tirez parti de la caractéristique principale de cette technologie et y investissez, cela sera globalement positif à long terme, même si le chemin sera semé d’embûches. L’économie considère le travail comme un ensemble de tâches, dont certaines seront automatisées, ce qui est une bonne nouvelle, mais la clé est de savoir comment vous vous requalifiez et restez à la pointe.

Animateur : Qui pensez-vous sera le plus touché en premier ?

Christian : C’est une excellente question, j’ai beaucoup d’idées à ce sujet. Tout d’abord, quand je dis que ceux qui sont les plus proches du code seront les premiers touchés, je veux dire qu’ils seront les premiers à réaliser à quel point cette technologie est puissante. Comme le révèle le “paradoxe de Jevons”, lorsque quelque chose devient efficace, nous avons tendance à consommer davantage, par exemple, nous écrivons plus de logiciels. Je pense que la programmation va se diversifier comme beaucoup d’autres professions, ce que nous appelons dans notre article le “cycle d’entrée de gamme qui disparaît”. Si vous êtes un débutant et que vous n’avez pas acquis la “connaissance tacite” qui distingue un bon produit d’un produit médiocre, alors l’IA peut bien vous remplacer dans divers domaines.

Tout le monde peut désormais facilement accéder à un marketeur assez bon, un programmeur junior, ou un avocat capable de gérer la plupart des situations, vous n’avez qu’à faire appel à un avocat de haut niveau pour la vérification finale. D’un autre côté, même les experts de haut niveau, au fur et à mesure de l’intégration de l’IA, créent involontairement des étiquettes, des informations et des traces numériques qui finiront par automatiser leur propre travail. Les meilleurs laboratoires recrutent les meilleurs talents dans des domaines comme la finance pour les utiliser afin de créer des normes d’évaluation, intégrant ces connaissances spécialisées dans de grands modèles. Donc, je pense qu’aucun travail unique n’est 100 % sûr, même le travail physique limité par les capacités robotiques, le modèle de récompense fera des bonds énormes dans les années à venir. Tout ce qui se passe devant un écran peut être suivi, copié et appris. Pour chaque profession, il est crucial de se demander : si je délègue autant de travail que possible à l’IA, où puis-je encore ajouter de la valeur ?

En réalité, il y a beaucoup de “réassurance” autour de la “sensibilité” et du “jugement”. Ils sont très flous. Donc, dans l’article, nous disons : il n’y a pas de goût ou de jugement de bien ou de mal, seulement la différence entre “mesurable” et “non mesurable”. Si quelque chose a déjà été mesuré, une machine peut le reproduire. Si quelque chose est encore seulement ancré dans le poids de votre cerveau, comme un designer de haut niveau ayant accumulé des milliers d’heures d’expérience, capable de décider ce qui doit être publié et ce qui ne doit pas l’être, c’est ce que nous appelons la “vérification”. Toute vérification est cette dernière étape : l’agent IA crée le produit, et vous, en tant que décideur, jugez s’il répond aux critères de mise sur le marché. À mesure que les machines obtiennent de meilleures données, les choses seront automatisées ; mais face à des domaines inconnus, ou là où il n’y a tout simplement pas de données, cette partie appartiendra encore aux humains dans les années à venir.

Animateur : C’est une réflexion très profonde. Mais je me demande aussi, il est naturel pour un ingénieur d’automatiser son travail. Tous les secteurs subissent-ils le même impact ?

Christian : Nous avons suffisamment de preuves pour montrer que le changement sera inégal. On peut penser : ce travail n’est-il qu’un “emballage” de quelque chose dont la société n’a fondamentalement pas besoin ? Par exemple, un travail de conseil général, s’il consiste principalement à réemballer, raffiner et résumer des informations déjà largement disponibles, cela présente clairement des risques. Mais s’il apporte une expertise spécialisée rare, ou si un consultant est nécessaire pour des raisons politiques, ces rôles survivront. Demandez-vous si ce métier est rentable parce qu’il résout un problème complexe, ou simplement en raison d’un certain goulot d’étranglement créé par l’homme.

Animateur : Que signifie vraiment la vérification ? J’ai du mal à décomposer ma journée de travail en ce qui relève du travail cognitif et de ce qui relève de la vérification.

Christian : Les agents ont appris et mesuré tout à partir du web et des livres, car ils sont moins chers et évolutifs, ils remplaceront la partie mesurable. Mais ce que les agents ne savent pas encore, c’est le poids unique de votre réseau neuronal dans votre cerveau. C’est ce que vous avez acquis par votre propre expérience et vos luttes, ce qui vous rend un expert de haut niveau. Par exemple, les premiers participants aux cryptomonnaies, beaucoup venant d’Argentine, du Venezuela, ayant vécu une hyperinflation, réagissent complètement différemment aux actifs. Cette mesure unique et intérieure reste un énorme avantage.

Qu’est-ce que la vérification ? C’est la différence entre votre propre norme de mesure du monde et celle que possède l’agent. Comme un éditeur de haut niveau, qui sait exactement quel article va résonner ; ou un CTO de haut niveau, qui face à une énorme bibliothèque de code générée par l’IA, sait précisément quelles parties cruciales doivent être vérifiées manuellement, cette partie ne peut pas encore être mesurée par les machines.

Animateur : Prenons un exemple, si je vois une vidéo sur X montrant Israël bombardé par des missiles, mais je découvre que c’est généré par l’IA. J’utilise mon cerveau pour identifier le problème et je peux peut-être générer une meilleure vidéo par reproposition, c’est cela ma “capacité de vérification” ?

Christian : C’est un très bon exemple. Plus loin encore, nous pourrions bientôt nous retrouver dans un monde où, pour la plupart des gens, cette vidéo est difficile à distinguer de la vérité. La prochaine étape pourrait être qu’un expert militaire remarque que la dynamique des flammes n’est pas correcte. Ensuite, même les experts militaires pourraient avoir du mal à faire la distinction et avoir besoin de l’IA pour analyser les principes physiques et effectuer des tests de simulation. Finalement, il pourrait être totalement impossible de faire la différence, et à ce moment-là, nous devrons compter sur des infrastructures basées sur la cryptographie pour confirmer la véracité. Dans le domaine médical, il en va de même, les cas extrêmes nécessiteront finalement que les meilleurs radiologues utilisent 20 ans d’expérience et une compréhension du contexte spécifique du patient pour contredire le jugement de l’IA. C’est ce que nous appelons la dernière couche de “filtrage”. Lorsque nous faisons cela, nous libérons énormément de temps. Donc, c’est le bon côté. Nous pouvons faire plus de choses avec moins de ressources. Le coût des choses coûteuses va diminuer. L’ensemble de la société consommera davantage ces choses. Je pense que c’est une bonne nouvelle.

Animateur : Mais dans votre exemple, actuellement il effectue la vérification, mais bientôt il ne pourra plus vérifier et aura besoin d’un commandant militaire, et finalement même le commandant ne pourra plus vérifier et devra faire appel à l’IA. Cela ne prouve-t-il pas que la “vérification” avait à l’origine de la valeur, mais sera rapidement automatisée par l’IA ? Donc, même la “vérification” elle-même est-elle précieuse ?

Christian : Exactement. Nous appelons cela le “fléau du programmeur” dans notre article. L’acte de vérification, qui est un comportement très rationnel, pousse en soi le développement de technologies de pointe et rend les données expérimentales mesurables. Nous ne pouvons pas nous arrêter, car tous les avocats ou professionnels essaient d’utiliser l’IA. La vérification est effectivement un front qui se réduit.

Animateur : Même le domaine de la vérification finale se réduit, quand pourrons-nous ne plus être anxieux ?

Christian : Tout d’abord, certaines choses sont par nature non mesurables, comme les soi-disant “jeux de statut” ou les choses que les humains confèrent de sens. Ces domaines ne seront pas envahis par les machines, car leur caractéristique concerne le consensus coordonné entre les humains. Les cryptomonnaies fonctionnent en partie ainsi, l’important est le consensus humain sur ce qui a de la valeur. À mesure que les domaines de travail mesurables se réduisent, nous allons inventer de nombreuses façons de donner un sens au travail non mesurable.

Animateur : L’IA peut créer un site web en 10 secondes, mais elle ne peut peut-être pas écrire un tweet attrayant pour les humains. Cela pourrait-il être l’un des derniers travaux de vérification restants ?

Christian : Attirer l’attention, raconter une blague vraiment originale, c’est un travail créatif extrêmement difficile qui tente de briser quelque chose qui n’a jamais été mesuré. Nous avons évolué avec une grande capacité à faire face à des environnements inconnus au cours de notre longue survie. Les personnes engagées dans ce type de travail sont appelées “créateurs de sens”. Par exemple, dans le domaine artistique ou culturel, ce qui est bon dépend du consensus humain. Même lorsque vous utilisez des agents IA, vous devez établir une “intention”.

Animateur : Les coûts d’automatisation diminuent de manière exponentielle, que va-t-il en être des “coûts de vérification” ? Seront-ils toujours soumis aux contraintes biologiques humaines ?

Christian : Actuellement, ils sont soumis à des contraintes biologiques. Donc, de nombreuses entreprises publient une grande quantité de code généré par l’IA, mais il n’y a pas assez de personnel pour les lire et les vérifier, ce qui cache inévitablement des risques.

Animateur : Ne peut-on pas utiliser l’IA pour vérifier l’IA ?

Christian : Si l’IA peut vérifier correctement, cette partie elle-même est automatisable. Après avoir épuisé toutes les vérifications par l’IA, ce qui reste est ce qui ne peut véritablement pas être vérifié par l’IA, c’est ce qui constitue le goulot d’étranglement de l’intervention humaine.

Animateur : Si la vérification est une nouvelle ressource rare, mais qu’elle recule constamment, comment travailler et investir dans cette économie ?

Christian : Nous avons créé une matrice 2x2 basée sur les “coûts d’automatisation” et les “coûts de vérification”. Dans le coin inférieur gauche se trouvent les travailleurs remplacés : automatisation facile, vérification facile, vous ne voulez absolument pas rester ici. Les trois autres quadrants sont :

Créateurs de sens : automatisation difficile, vérification difficile. Ils se consacrent au consensus social, aux jeux de statut et aux connexions humaines. Par exemple, les créateurs de goût dans le monde de la mode, les KOL de la cryptomonnaie sur Twitter, qui créent des récits et coordonnent l’attention.

Souscripteurs de responsabilité : automatisation facile, vérification difficile. Ce sont les meilleurs experts dans leur domaine, comme les avocats, médecins ou investisseurs de haut niveau. Ils utilisent massivement l’IA, mais fournissent des services de responsabilité et de vérification pour les cas de bord.

Administrateurs : automatisation difficile, vérification facile. L’essentiel est “l’intention”. Ils s’attaquent aux “inconnues inconnues”, dirigeant les agents comme des entrepreneurs, fixant des directions, ressentant les écarts et corrigeant constamment le cap.

Animateur : Que doivent faire les jeunes qui viennent de terminer leurs études et souhaitent entrer sur le marché du travail ? D’un côté, il y a des emplois d’entrée de gamme sans valeur, de l’autre, il y a des experts de haut niveau qui nécessitent une décennie de formation, il y a un énorme fossé entre les deux. Puisque l’IA peut déjà effectuer des tâches de débutant, comment les jeunes peuvent-ils progresser vers l’autre extrémité ?

Christian : Le fossé est bien réel. Mais la bonne nouvelle est que vous pouvez réduire le temps d’apprentissage. Vous pouvez sauter les étapes de formation traditionnelles. Un ingénieur junior peut maintenant, grâce aux outils, accomplir le travail qu’une équipe entière réalisait auparavant. Bien qu’il fasse des erreurs au début, en tant que novice, il peut remettre en question la tradition d’une manière complètement nouvelle, ce qui est un avantage. Ils peuvent réaliser des idées d’une manière qui était totalement impossible pour nous à leur âge. Il y a des avantages et des inconvénients.

Le chemin du passé : “obtenir un diplôme, chercher un stage, travailler dur pour progresser”, n’existe certes plus, ce qui entraînera un choc culturel énorme. C’est très difficile pour les jeunes diplômés. Si vous êtes encore à l’université, vous avez le temps de clarifier votre direction. Si vous êtes dans une impasse, mon conseil est : utilisez ces outils pour créer quelque chose. Votre ambition devrait être 100 fois plus grande que ce que nous avions à cet âge.

Animateur : La disparition d’un grand nombre de travaux “sur bouton” ne va-t-elle pas entraîner un chaos social à court terme ?

Christian : La société recréera toujours des travaux “sur bouton” en cas de besoin pour maintenir la stabilité. Mais beaucoup de ceux qui occupent ce type de travail ont en réalité la capacité de faire plus, ils ont juste été contraints par leur environnement dans le passé. Lorsque le travail physique n’est plus nécessaire, nous avons inventé le fitness ; aujourd’hui, face à la libération du travail intellectuel, les gens développeront divers emplois secondaires et une économie de créateurs pour ressentir un défi. C’est aussi pourquoi je pense que le “revenu de base inconditionnel (UBI)” est complètement erroné, les gens ont besoin de sens et de motivation pour l’auto-réalisation. De plus, même si une grande partie de votre travail est actuellement remplacée par l’automatisation, si vous tirez parti de cet super outil qu’est l’IA, un employé débutant peut produire autant qu’une équipe entière auparavant.

Animateur : Quels conseils donneriez-vous aux entreprises et aux investisseurs ?

Christian : Pour les entreprises, investissez dans les infrastructures de vérification, en proposant “responsabilité en tant que service” (c’est-à-dire non seulement fournir des agents mais aussi assurer les conséquences). Ensuite, maîtrisez les “sources de faits exclusives”, car l’IA est facilement trompée, et les entreprises capables de fournir des données réelles ou des évaluations approfondies comme Bloomberg ont une valeur énorme. Pour les investisseurs, en plus d’investir dans ces domaines, concentrez-vous sur la recherche et développement “non mesurable”. Les anciennes effets de réseau ordinaires pourraient devenir obsolètes, les nouveaux effets de réseau seront basés sur la manière dont vous parvenez à rendre votre agent plus fiable que les autres grâce à de meilleurs retours réels, car ce que les gens veulent vraiment acheter, c’est de l’intelligence vérifiée.

Animateur : La technologie cryptographique est-elle utile dans ce processus de vérification ?

Christian : L’infrastructure sous-jacente établie dans le domaine de la cryptographie au cours de la dernière décennie est essentielle. Lorsque nous avons besoin de déterminer l’authenticité de l’identité et de prévenir la prise de contrôle des comptes, des technologies en chaîne comme “la preuve de personnalité” peuvent fournir une vérification solide. Il y a aussi l’origine des données et la chaîne de réglementation cryptographique, nous avons besoin d’une garantie cryptographique stricte sur la création d’informations et la conformité des modèles.

Animateur : Que devraient faire les gens au cours de l’année à venir ? Êtes-vous optimiste quant à l’avenir de l’humanité ?

Christian : D’abord, ne paniquez pas. Faites beaucoup d’expérimentations, essayez d’utiliser des outils pour “éliminer” et automatiser votre version actuelle. Beaucoup d’explorations de loisirs vers l’avenir pourraient être les carrières les plus significatives. Dans le pire des cas, vous pourrez identifier où se trouvent les limites et les défauts des modèles. Pour de nombreux créateurs en ligne, leur hobby est devenu leur carrière, ce qui sera la tendance principale à l’avenir. Si vous avez des enfants, il est crucial de découvrir leurs talents et de les immerger dans ce qu’ils aiment. Il n’y a pas de modèle professionnel fixe, les nouveaux outils d’IA peuvent mieux vous aider à trouver ce chemin qui vous est propre.