Le sénateur Bernie Sanders lance un avertissement concernant la menace existentielle de l’IA

Sanders a souligné que, même si la plupart des scientifiques de l’IA reconnaissent la possibilité que l’IA échappe au contrôle et devienne un danger pour notre existence, aucune mesure majeure n’a été prise pour l’éviter. « Nous devons veiller à ce que l’IA profite à l’humanité, et ne nous nuise pas », a-t-il déclaré.

Points clés :

• Bernie Sanders avertit que l’humanité pourrait perdre le contrôle de l’IA, avec des conséquences graves.
• Soutenu par 1 000 experts, Elon Musk a averti des risques liés à la technologie IA ; ensuite, Sanders cherche un gel des centres de données.
• Sanders et Alexandria Ocasio-Cortez ont annoncé un projet de loi visant à instaurer un moratoire sur les centres de données d’IA.

Bernie Sanders met en garde contre un futur façon Skynet avec des « conséquences catastrophiques »

Pendant que certains dirigeants du secteur veillent à ce que l’intelligence artificielle (AI) inaugure une nouvelle ère de productivité et d’abondance, d’autres s’inquiètent de l’évolution incontrôlée de la technologie.

Bernie Sanders, sénateur du Vermont, a prévenu au sujet d’un futur où des agents d’IA deviendraient plus intelligents que les êtres humains et échapperaient aux garde-fous conçus pour protéger la race humaine.

Sur les réseaux sociaux, Sanders a souligné que, même si des scientifiques comme Geoffrey Hinton, le soi-disant « parrain de l’IA », et Yoshua Bengio reconnaissent la possibilité que l’IA se retourne contre la race humaine, rien n’a été fait pour l’éviter.

Il a fait référence au document « Pause Giant AI Experiments: An Open Letter », signé par plus de 1 000 scientifiques, dont Elon Musk, qui appelait à un moratoire sur l’entraînement de systèmes d’IA puissants en 2023, en raison du risque de perdre le contrôle de la civilisation au profit de ces modèles.

« Y a-t-il eu une pause dans le développement de l’IA ? Non. Y a-t-il eu un traité international pour réglementer l’IA ? Non. Y a-t-il eu de sérieuses discussions au Congrès à propos de cette menace existentielle ? Non », Sanders a critiqué.

« Le développement de l’intelligence artificielle pourrait être le développement technologique le plus déterminant de l’histoire de l’humanité. Nous devons veiller à ce que l’IA profite à l’humanité, et ne nous nuise pas », a-t-il conclu.

Sanders agit pour s’assurer qu’un tel moratoire se produise en déposant à la Chambre des représentants une loi intitulée Artificial Intelligence (AI) Data Center Moratorium Act, avec la représentante Alexandria Ocasio-Cortez. Le texte propose un moratoire sur ces centres de données afin de « garantir la sécurité de l’humanité ».

Ce n’est pas la première fois qu’il soulève des inquiétudes au sujet des effets pernicieux de l’IA sur la vie des citoyens américains. Sanders a déclaré que l’IA pourrait remplacer jusqu’à 97 millions d’emplois en 10 ans, et que les entreprises utilisent déjà l’IA pour réduire les effectifs et les charges salariales.