Sam Altman sobre el futuro de la IA: control humano, responsabilidad y estándares internacionales
La intervención de Sam Altman ante el Consejo de Seguridad de la ONU el 23 de septiembre de 2026 y sus implicaciones para la supervisión de la IA en las empresas.
El 23 de septiembre de 2026, Sam Altman, director ejecutivo de OpenAI, intervino ante el Consejo de Seguridad de la ONU. Habló de las oportunidades de la IA y del riesgo de que sistemas cada vez más autónomos tomen decisiones que las personas dejen de comprender o controlar. Para las empresas, el mensaje invita a pensar en la IA como parte de las operaciones, siempre bajo supervisión humana.
La IA se integra en el trabajo diario
Los empleados de IA pueden responder preguntas repetidas, consultar materiales de la empresa y preparar una solicitud para que la atienda un especialista. Cuando forman parte del flujo de trabajo, la calidad depende de datos actualizados, permisos bien definidos y revisión por parte del equipo.
Altman no propuso automatizarlo todo. Señaló que hay tareas que la IA no puede ni debe asumir. Por eso conviene decidir qué actividades puede apoyar el sistema y cuáles requieren el criterio de una persona.
Diseñar el control humano
Una de las ideas centrales del discurso fue mantener a las personas en el centro de las decisiones sobre IA. En una empresa, eso implica definir la función del empleado de IA, qué información puede utilizar, qué preguntas puede resolver y cuándo debe derivar el caso.
También debe existir una forma de corregir respuestas erróneas e intervenir antes de que un fallo afecte al cliente. Ayudan los materiales vigentes, las pruebas con casos sencillos y difíciles y una persona responsable de las consultas derivadas.
Responsabilidad y transparencia
Altman pidió estándares nacionales e internacionales complementarios para evaluar capacidades, riesgos y medidas de protección, además de mecanismos para comunicar incidentes. Son propuestas de cooperación; no normas ya aprobadas para todas las empresas.
En la práctica, clientes y empleados deben poder saber cuándo responde la IA, con qué información y quién toma la decisión final. Una suposición sobre precios, disponibilidad o condiciones no debe presentarse como un dato confirmado.
NEXSTA como ejemplo práctico
NEXSTA permite a una empresa definir el papel de su empleado de IA, aportar conocimientos sobre sus productos y servicios, ajustar las reglas de trabajo y comprobar respuestas antes de publicarlo. Las consultas que lo necesiten pueden pasar a una persona.
La empresa conserva la responsabilidad sobre sus materiales y sus decisiones frente al cliente. La automatización puede aliviar tareas repetitivas y reforzar al equipo sin sustituir su criterio.
Para evaluar una implantación de IA no basta con medir la rapidez. También importan el control, la información verificable, los límites claros y la capacidad humana de intervenir.