Max Tegmark, professeur au MIT et cofondateur du Future of Life Institute, met en garde contre la "course vers le bas" à laquelle se livrent sans relâche les entreprises technologiques pour développer des systèmes avancés d'intelligence artificielle (IA), en dépit de ses tentatives pour inciter à une pause.
Ce qui s'est passé : Une lettre ouverte initiée par Tegmark en mars et signée par plus de 30 000 personnes, dont des titans de l'industrie comme Elon Musk et Steve Wozniak, plaidait pour une pause de six mois dans la création de modèles d'IA dépassant la puissance du GPT-4. L'appel à la pause n'a toutefois pas eu l'effet escompté.
Selon M. Tegmark, les dirigeants du secteur technologique, bien que favorables à une pause en privé, se sont retrouvés dans une situation de concurrence intense avec d'autres entreprises technologiques qui développent une IA avancée. Par crainte d'être distancés ou dépassés, une pause unilatérale est impossible.
La course a fait craindre la création d'une IA superintelligente et ingérable, ce qui a suscité des appels urgents à l'intervention des pouvoirs publics pour établir des moratoires sur le développement et des normes de sécurité.
Malgré l'échec de la pause, M. Tegmark a considéré la lettre comme un catalyseur du discours politique sur l'IA, selon le Guardian, comme en témoignent les auditions du Sénat et le sommet mondial britannique sur la sécurité de l'IA prévu en novembre à Bletchley Park. Le sommet de Bletchley Park vise à consolider la compréhension des risques liés à l'IA, à souligner la nécessité d'une réponse mondiale et à plaider en faveur d'une action gouvernementale rapide, à l'instar des réunions organisées aux États-Unis, en Israël et dans d'autres pays.
En savoir plus : L'IA à la croisée des chemins : les dirigeants américains et britanniques s'attaquent aux monopoles technologiques et aux dilemmes éthiques
Les risques immédiats liés à l'IA qui préoccupent les gouvernements comprennent la génération de deepfake et la désinformation de masse, des risques existentiels posés par des IA superintelligentes incontrôlables.
M. Tegmark a déclaré qu'il était urgent de s'attaquer à ces risques, certains experts prédisant l'arrivée d'une "intelligence générale de type divin" d'ici quelques années. Musk, l'un des leaders dans le domaine de l'IA, a appelé des pays comme la Chine à ne pas développer une IA aussi puissante, de peur qu'elle ne prenne le contrôle des gouvernements mondiaux.
Les progrès de l'IA ont également suscité des débats sur les implications éthiques et les risques liés à cette technologie. Les dirigeants de l'industrie et les organismes gouvernementaux se sont réunis pour discuter de mesures et de principes réglementaires visant à empêcher la monopolisation de l'IA et à garantir la transparence, la concurrence et la responsabilité.
Des responsables américains, britanniques et israéliens sont à la tête d'initiatives de surveillance de l'IA, comprenant les défis réglementaires uniques de l'IA et visant à exploiter ses avantages de manière éthique. Toutefois, le caractère confidentiel de certaines discussions a suscité des inquiétudes quant à la transparence, des voix comme celle de la sénatrice Elizabeth Warren (D-MA) s'élevant contre les dialogues privés entre les magnats de la technologie et les législateurs.
Les discussions sur l'IA dans le monde réunissent des dirigeants d'entreprises technologiques telles que Alphabet Inc. (NASDAQ:GOOG) (NASDAQ:GOOGL) Google, Microsoft Corporation (NASDAQ:MSFT), Nvidia Corp (NASDAQ:NVDA), Palantir Technologies Inc (NYSE:PLTR), OpenAI, Anthropic, et d'autres encore.
Le consensus parmi les dirigeants et les experts est clair : la course au développement de l'IA avancée nécessite une intervention immédiate et réfléchie, des protocoles de sécurité normalisés et des efforts de collaboration pour atténuer les risques et garantir l'évolution responsable de la technologie.
Lire la suite : OpenAI dévoile DALL-E 3 : la percée du texte à l'image avec ChatGPT Synergy
Photo : Shutterstock
