À la suite d'une discussion privée sur l'intelligence artificielle au Capitole la semaine dernière, le PDG de Palantir Technologies Inc. (NYSE:PLTR), Alex Karp, a évoqué publiquement les dangers potentiels de cette technologie.
Ce qui s'est passé : Dans une interview accordée jeudi à l'émission "Squawk On The Street" de la chaîne CNBC, M. Karp a appelé les autres entreprises technologiques à collaborer avec le gouvernement dans le cadre de leurs initiatives en matière d'intelligence artificielle.
La devise de la Silicon Valley est "Je m'enrichis, vous n'avez rien", et il est évident qu'ils ont souvent étendu cette devise au gouvernement américain", a déclaré M. Karp.
Palantir mettait les autres acteurs de l'IA dans l'embarras lorsqu'il s'agissait de travailler avec le gouvernement, a déclaré M. Karp d'un air narquois. L'entreprise a participé aux discussions avec les législateurs et les a aidés à comprendre que trop peu d'argent était consacré à l'IA, et d'autres devraient en faire autant, a-t-il souligné.
Le chef de Palantir a fait remarquer que Palantir était l'une des seules entreprises, depuis les années 1950, à produire des produits gouvernementaux qui font l'objet d'une forte demande commerciale.
Lors de la réunion à huis clos de la semaine dernière avec les sénateurs, la discussion a porté sur la manière de faire progresser l'IA tout en atténuant les risques, a expliqué M. Karp.
"Que se passera-t-il si l'IA générative devient si puissante qu'elle représente un risque pour l'humanité ? C'est un vrai problème", a-t-il déclaré.
En outre, nous [les États-Unis] devons nous assurer que nos adversaires, à savoir la Russie et la Chine, ne développent pas des outils largement supérieurs aux nôtres et ne changent pas l'ordre mondial, a-t-il ajouté.
M. Karp a estimé que les discussions avaient été très productives. Il est plus facile d'amener les gens à "se mettre à nu" en privé parce qu'ils peuvent dire ce qu'ils croient sans être soumis à un examen public, a-t-il déclaré.
"Il y avait là un groupe très hétérogène de personnes, allant des dirigeants syndicaux aux leaders de la technologie. Parmi les leaders de la technologie, il y a des gens plus proches de l'entreprise, puis il y a les monstres", a déclaré M. Karp en parlant de lui-même.
Check This Out : Wow, ChatGPT peut choisir des actions : Le portefeuille AI de Benzinga en 5ème position
Pourquoi c'est important : M. Karp était assis à côté d'Elon Musk, PDG de Tesla Inc., lors de la discussion à huis clos du Sénat américain sur la réglementation de l'IA.
Il a déclaré à CNBC qu'il avait discuté avec Elon Musk de l'avenir de l'IA et des risques potentiels pour l'humanité. Il n'a pas voulu partager les commentaires de Musk, mais il a partagé ce qu'il a dit à Musk.
"Il y a ceux qui pensent que l'IA est sûre et ceux qui pensent qu'elle est dangereuse. Je suis dans le troisième camp, celui qui pense qu'elle est dangereuse et que si nous n'y travaillons pas, nos adversaires le feront et nous perdrons tous nos droits de l'homme.
Dans un extrait de la biographie de Musk, l'auteur Walter Isaacson a révélé que lors d'une réunion secrète entre lui et le milliardaire, Musk a réfléchi à ce qui pourrait être fait pour rendre l'IA sûre, y compris les mesures qui pourraient être prises pour "assurer la survie de la conscience humaine".
"Musk a sombrement spéculé sur la fenêtre d'opportunité pour construire une colonie humaine durable sur Mars avant qu'une apocalypse de l'IA ne détruise la civilisation terrestre", a écrit Isaacson.
Le PDG de Tesla a lancé X.ai au début de l'année dans le but de comprendre la "véritable nature de l'univers". Musk a ouvertement exprimé ses inquiétudes quant à l'avenir de l'IA à plusieurs reprises, notamment dans divers messages sur la plateforme X.
En privé comme en public, Karp a exprimé les mêmes opinions, a-t-il déclaré.
"Il y a un risque réel ici, mais le côté positif est que l'Amérique surpassera tous les autres pays occidentaux parce que nous produisons la technologie, nous avons des structures juridiques qui nous permettent de la mettre en œuvre et nous avons les meilleurs talents et nous sommes les plus innovants", a déclaré Karp.
Lire la suite : L'ascension fulgurante d'OpenAI : 1 milliard de dollars de revenus annuels à l'horizon
Photo : Forum économique mondial sur Flickr et Shutterstock.
