Der Harvard-Psychologe Steven Pinker hat argumentiert, dass die Befürchtungen, künstliche Intelligenz könnte die Menschheit auslöschen, übertrieben seien, und stattdessen zu nüchterner Sicherheits‑Engineering aufruft. In einem offenen Brief auf Quillette richtete Pinker sich an den Tech‑Blogger Scott Alexander, der ihn zu einer öffentlichen Debatte über existentielle Risiken der KI herausgefordert hatte. Pinker lehnte die Debatte ab, wies solche Veranstaltungen als Zuschauersport ab und skizzierte dabei seine Sicht auf realistische technologische Gefahren.
Pinker argumentiert, dass extreme Weltuntergangsszenarien rohe Intelligenz mit einem grundlegenden Drang verwechseln, die Menschheit zu dominieren. Er weist zudem darauf hin, dass diese extremen Theorien fälschlich annehmen, KI‑Systeme würden manisch auf ein einziges Ziel fixiert sein. Obwohl Pinker im Großen und Ganzen optimistisch gegenüber der KI‑Technologie bleibt, gibt er zu, dass er die Fähigkeiten großer Sprachmodelle und die rücksichtlose Geschwindigkeit, mit der Unternehmen sie veröffentlichen, zuvor unterschätzt habe.
Anstatt sich auf Science‑Fiction‑Szenarien zu konzentrieren, betont Pinker, dass die Gesellschaft konkrete Bedrohungen ernst nehmen sollte, etwa Bioterrorismus, gefährliche Cyberangriffe und unkontrollierte autonome Agenten. Er schreibt, dass Weltuntergangs‑Rhetorik diese drängenden Probleme nicht adressiert, während nüchternes Sicherheits‑Engineering, unterstützt durch unabhängige Aufsicht, rechtliche Haftung und menschliche Kontrolle, sie wirksam bewältigen kann. Gleichzeitig hält Alexander die Wahrscheinlichkeit einer durch KI verursachten menschlichen Auslöschung für zwanzig Prozent und plädiert für internationale Abkommen, um die Entwicklung zu verlangsamen.
Warum das wichtig ist: Diese Debatte verdeutlicht die wachsende Spaltung unter Intellektuellen darüber, ob man sich auf hypothetische Aussterberisiken oder auf unmittelbare, praktische Herausforderungen des Sicherheits‑Engineerings konzentrieren sollte.