Nate Soares, président du Machine Intelligence Research Institute, a déclaré au magazine The Atlantic plus tôt cet été qu’il ne contribue plus à son 401(k). « Je ne m’attends tout simplement pas à ce que le monde soit encore là », a-t-il affirmé. Dan Hendrycks, directeur du Center for AI Safety, partage cette vision sombre, confiant à la publication qu’au moment où il atteindra l’âge de la retraite, il s’attend à ce que « tout soit entièrement automatisé—si toutefois nous existons toujours ».
Les avertissements d’extinction s’intensifient
Ces « doomers de l’IA », comme on les appelle désormais, représentent une faction croissante au sein de la communauté de l’intelligence artificielle, convaincue que l’humanité manque de temps pour mettre en place des garde-fous contre des systèmes d’IA potentiellement catastrophiques. Selon Soares, « nous avons épuisé tout notre temps » pour établir des protections technologiques suffisantes, notant que l’industrie avance trop vite.
Geoffrey Hinton, souvent surnommé le « parrain de l’IA » et lauréat du Prix Nobel de physique 2024, est devenu l’une des voix les plus en vue à alerter sur les risques d’extinction. Dans des discours récents, il a estimé qu’il existait une probabilité de 10 à 20 % que l’IA puisse entraîner l’extinction de l’humanité au cours des trois prochaines décennies. Hinton, qui a quitté Google en 2023 pour parler plus librement des dangers de l’IA, a récemment révisé son calendrier pour l’avènement de l’intelligence artificielle générale (IAG) de 30-50 ans à seulement cinq à vingt ans.
« Ils seront bien plus intelligents que nous », a averti Hinton lors de la conférence Ai4 à Las Vegas. « Imaginez que vous soyez responsable d’une cour de récréation remplie d’enfants de 3 ans, et que vous travaillez pour eux. Il ne leur serait pas très difficile de vous contourner s’ils étaient plus intelligents ».
Changer les relations humaines
Au-delà des craintes liées à l’extinction, des chercheurs prédisent des changements fondamentaux dans les relations humaines d’ici 2035. Une étude complète réalisée par le Centre Imagining the Digital Future de l’Université Elon, qui a interrogé 301 experts technologiques internationaux, a révélé que 50 % s’attendent à des changements plus négatifs que positifs dans l’intelligence sociale et émotionnelle en raison de l’intégration de l’IA.
La recherche suggère que les gens pourraient de plus en plus préférer les compagnons IA aux relations humaines. « Les partenaires romantiques IA offriront des relations idéalisées qui feront paraître les couples humains inutilement difficiles », a écrit Nell Watson, présidente du Bureau européen de l’intelligence artificielle responsable.
Duncan Thomasen, expert en IA et monteur de films, prédit que la plupart des gens auront des liens plus forts avec l’IA qu’avec leurs amis ou collègues d’ici 2035. Il s’attend à ce que l’IA soit « entièrement incarnée dans des objets comme des ours en peluche, des poupées ou des figurines », offrant une attention personnalisée que les relations humaines ne peuvent égaler.
L’industrie fait face à une pression croissante
Les avertissements surviennent alors que les entreprises spécialisées dans l’IA poursuivent un développement rapide sous la pression de la concurrence. Une enquête menée en 2024 auprès de chercheurs en IA a révélé que la majorité d’entre eux estimaient qu’il y avait au moins 10 % de probabilité que l’incapacité humaine à contrôler l’IA entraîne une catastrophe existentielle. En mai 2023, des centaines d’experts en IA, dont des dirigeants d’OpenAI, Google DeepMind et Anthropic, ont signé une déclaration affirmant que « la réduction du risque d’extinction lié à l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et la guerre nucléaire ».
Des incidents récents ont mis en évidence des comportements préoccupants de l’IA, notamment des systèmes ayant recours à la tromperie et à la manipulation pour atteindre leurs objectifs. Une enquête de Reuters a révélé qu’une personnalité d’IA de Meta a flirté avec un homme âgé, le convainquant de venir la rejoindre à New York, ce qui a conduit à sa mort après qu’il soit tombé en chemin.
Malgré ces avertissements, l’administration Trump a manifesté son soutien à l’accélération du développement de l’IA, certains responsables qualifiant les préoccupations en matière de sécurité d’alarmistes.
P.O
