Sam Altman et l’avenir de l’IA : contrôle humain, responsabilité et normes internationales
Le discours de Sam Altman au Conseil de sécurité de l’ONU le 23 septembre 2026 : supervision humaine, responsabilité et normes internationales pour les entreprises.
Le 23 septembre 2026, Sam Altman, directeur général d’OpenAI, s’est exprimé devant le Conseil de sécurité de l’ONU. Il a évoqué les possibilités offertes par l’IA, mais aussi le risque de voir des systèmes autonomes prendre des décisions que les personnes ne comprennent ou ne maîtrisent plus. Pour les entreprises, ce discours rappelle qu’une IA intégrée au travail quotidien doit rester sous contrôle humain.
L’IA devient un outil de travail courant
Des employés IA peuvent répondre aux questions fréquentes, retrouver des informations dans les documents de l’entreprise et préparer une demande pour un spécialiste. Une fois intégrés aux opérations, ces outils dépendent de connaissances à jour, de droits bien définis et d’une vérification par les équipes.
Altman n’a pas appelé à tout automatiser. Il a souligné que certaines tâches ne peuvent ni ne doivent être confiées à l’IA. L’entreprise doit donc préciser où le système apporte son aide et où une personne prend la décision.
Prévoir une véritable supervision
Placer les personnes au centre des décisions relatives à l’IA est l’un des principes exposés dans le discours. Concrètement, il faut définir le rôle de l’employé IA, les sources qu’il peut utiliser, les questions auxquelles il répond et les situations qui exigent une transmission à un responsable.
La supervision suppose aussi de pouvoir corriger une réponse inexacte et intervenir avant qu’une erreur ne touche un client. Des documents actualisés, des essais sur des cas simples et complexes et un circuit de transmission clair rendent ce contrôle possible.
Responsabilité et transparence
Altman a proposé des normes nationales et internationales complémentaires pour mesurer les capacités, évaluer les risques et les protections, ainsi que signaler les incidents. Il s’agit de pistes de coopération, pas de règles déjà en vigueur pour chaque entreprise.
Dans les échanges avec les clients, chacun devrait savoir quand l’IA répond, quelles informations fondent sa réponse et qui assume la décision finale. Une supposition sur un prix, une disponibilité ou une condition ne doit pas passer pour un fait vérifié.
NEXSTA, un exemple concret
Avec NEXSTA, l’entreprise définit le rôle de son employé IA, apporte ses connaissances sur ses offres, règle son fonctionnement et vérifie ses réponses avant publication. Une question complexe peut être transmise à une personne.
L’entreprise reste responsable de l’exactitude des informations et de ses décisions vis-à-vis du client. L’automatisation peut soulager les équipes dans les tâches répétitives tout en préservant leur jugement.
Pour juger un projet d’IA, la rapidité de réponse ne suffit pas. Il faut aussi des connaissances vérifiables, des limites explicites et des personnes capables d’intervenir.