OpenAI está impulsando normas internacionales sobre el desarrollo de inteligencia artificial avanzada, centrándose específicamente en la auto‑mejora recursiva. Con la auto‑mejora recursiva, los sistemas de inteligencia artificial automatizan cada vez más la investigación necesaria para crear la próxima generación de tecnología, lo que podría acelerar drásticamente el progreso. Aunque la auto‑mejora recursiva totalmente autónoma no ocurre hoy, OpenAI afirma que solo debe perseguirse mientras pueda hacerse de forma segura, advirtiendo que, de lo contrario, los humanos podrían perder el control del desarrollo y enfrentarse a sistemas no alineados.
Para abordar estos riesgos, OpenAI propone que Estados Unidos lidere las normas técnicas globales basándose en institutos nacionales de seguridad de inteligencia artificial y organizaciones como CAISI e ISO. Este marco incluiría métodos de medición compartidos, reporte de incidentes y reglas obligatorias para la supervisión humana de la investigación automatizada de inteligencia artificial. Esta iniciativa sigue a una reciente advertencia de un panel científico de las Naciones Unidas sobre la pérdida de control de enjambres de agentes autónomos y propone una cooperación internacional en seguridad modelada a partir de los marcos de aviación, energía nuclear y ciberseguridad.
Por qué es importante: Establecer normas internacionales para la inteligencia artificial auto‑mejorable es crucial para evitar sistemas no alineados y mantener el control humano sobre la tecnología avanzada.