Le psychologue de Harvard Steven Pinker a soutenu que les craintes d'une intelligence artificielle anéantissant l'humanité sont exagérées, appelant plutôt à une ingénierie de sécurité sobre. Dans une lettre ouverte sur Quillette, Pinker s'est adressé au blogueur technologique Scott Alexander, qui l'avait mis au défi d'un débat public sur les risques existentiels de l'IA. Pinker a refusé le débat, qualifiant de sport de spectateur ces événements, tout en exposant son point de vue sur les dangers technologiques réalistes.
Pinker soutient que les scénarios apocalyptiques extrêmes confondent l'intelligence brute avec une volonté fondamentale de dominer l'humanité. Il souligne également que ces théories extrêmes supposent à tort que les systèmes d'intelligence artificielle se fixeraient de manière maniaque sur un seul objectif. Bien que Pinker reste généralement optimiste quant à la technologie de l'intelligence artificielle, il admet avoir sous‑estimé auparavant les capacités des grands modèles de langage et la vitesse imprudente à laquelle les entreprises les déploient.
Plutôt que de se concentrer sur des scénarios de science‑fiction, Pinker souligne que la société doit prendre au sérieux les menaces concrètes, telles que le bioterrorisme, les cyberattaques dangereuses et les agents autonomes non contrôlés. Il écrit que la rhétorique apocalyptique ne parvient pas à aborder ces problèmes urgents, tandis qu'une ingénierie de sécurité sobre, soutenue par une surveillance indépendante, une responsabilité juridique et un contrôle humain, peut les gérer efficacement. Pendant ce temps, Alexander estime à vingt pour cent la probabilité d'une extinction humaine due à l'intelligence artificielle et préconise des accords internationaux pour ralentir le développement.
Pourquoi c'est important : ce débat met en lumière la division croissante parmi les intellectuels quant à la nécessité de se concentrer sur les risques d'extinction hypothétiques ou sur les défis immédiats et pratiques d'ingénierie de sécurité.