El psicólogo de Harvard Steven Pinker ha argumentado que los temores de que la inteligencia artificial aniquile a la humanidad están exagerados, llamando en su lugar a una ingeniería de seguridad sobria. En una carta abierta en Quillette, Pinker se dirigió al bloguero tecnológico Scott Alexander, quien le había retado a un debate público sobre los riesgos existenciales de la IA. Pinker declinó el debate, desestimando tales eventos como un deporte de espectadores, mientras expone sus puntos de vista sobre los peligros tecnológicos realistas.
Pinker sostiene que los escenarios apocalípticos extremos confunden la inteligencia cruda con un impulso fundamental de dominar a la humanidad. También señala que estas teorías extremas asumen incorrectamente que los sistemas de inteligencia artificial se fijarían de manera maníaca en un único objetivo. Aunque Pinker se muestra generalmente optimista respecto a la tecnología de inteligencia artificial, admite que subestimó previamente las capacidades de los grandes modelos de lenguaje y la velocidad temeraria con la que las empresas los lanzan.
En lugar de centrarse en escenarios de ciencia ficción, Pinker enfatiza que la sociedad debe tomar en serio amenazas concretas, como el bioterrorismo, ciberataques peligrosos y agentes autónomos sin control. Escribe que la retórica del fin del mundo no aborda estos problemas urgentes, mientras que una ingeniería de seguridad sobria, respaldada por supervisión independiente, responsabilidad legal y control humano, puede gestionarlos eficazmente. Mientras tanto, Alexander mantiene una estimación de probabilidad del veinte por ciento de extinción humana por la inteligencia artificial y aboga por acuerdos internacionales para frenar el desarrollo.
Por qué es importante: este debate pone de relieve la creciente división entre intelectuales sobre si centrarse en riesgos hipotéticos de extinción o en desafíos inmediatos y prácticos de ingeniería de seguridad.