Sam Altman über die Zukunft der KI: menschliche Kontrolle, Verantwortung und internationale Standards
Sam Altmans Rede vor dem UN-Sicherheitsrat am 23. September 2026: menschliche Aufsicht, Verantwortung und internationale KI-Standards aus Unternehmenssicht.
Am 23. September 2026 sprach OpenAI-Chef Sam Altman vor dem Sicherheitsrat der Vereinten Nationen. Er beschrieb Chancen der KI, warnte aber auch davor, dass autonome Systeme Entscheidungen treffen könnten, die Menschen nicht mehr verstehen oder kontrollieren. Für Unternehmen stellt sich damit eine praktische Frage: Wie wird KI zu einem nützlichen Werkzeug, ohne die Verantwortung aus der Hand zu geben?
KI wird Teil des Betriebs
KI-Mitarbeiter beantworten wiederkehrende Fragen, erschließen Firmenunterlagen und bereiten Kundenanfragen für Fachkräfte vor. In solchen Abläufen ist KI Arbeitsinfrastruktur. Ihre Zuverlässigkeit hängt von aktuellen Informationen, klaren Befugnissen und der Prüfung durch Beschäftigte ab.
Altman plädierte nicht für die Automatisierung jeder Aufgabe. Er betonte, dass es Tätigkeiten gibt, die KI nicht übernehmen kann und nicht übernehmen sollte. Unternehmen sollten daher festlegen, wo die Technik unterstützt und wo ein Mensch entscheidet.
Aufsicht von Anfang an vorsehen
Menschen müssen laut Altman im Mittelpunkt von KI-Entscheidungen bleiben. Für den Betrieb heißt das: Rolle, Wissensquellen und Grenzen eines KI-Mitarbeiters sind festzulegen. Ebenso wichtig ist der Punkt, an dem ein Anliegen an eine zuständige Person übergeht.
Kontrolle setzt voraus, fehlerhafte Antworten korrigieren und bei Bedarf eingreifen zu können. Aktuelle Unterlagen, Tests mit einfachen und schwierigen Fällen sowie ein klarer Eskalationsweg machen das im Alltag möglich.
Verantwortung und Transparenz
Altman regte nationale und internationale Standards zur Bewertung von Fähigkeiten, Risiken und Schutzmaßnahmen an. Auch Meldungen von Vorfällen gehören zu seinem Vorschlag. Es handelt sich um eine Richtung für Zusammenarbeit, nicht um bereits geltende Regeln für jedes Unternehmen.
Im Kundenkontakt sollte erkennbar sein, wann KI antwortet, auf welcher Grundlage sie das tut und wer die abschließende Entscheidung trägt. Vermutungen zu Preisen, Verfügbarkeit oder Vertragsbedingungen dürfen nicht als geprüfte Fakten erscheinen.
NEXSTA als praktisches Beispiel
Bei NEXSTA legt ein Unternehmen die Rolle seines KI-Mitarbeiters fest, ergänzt eigenes Wissen über Angebote und Regeln, passt Einstellungen an und prüft Antworten vor der Veröffentlichung. Unklare Anliegen können an einen Menschen weitergegeben werden.
Die Verantwortung für richtige Unterlagen und Entscheidungen bleibt beim Unternehmen. KI kann Routinearbeit erleichtern und Beschäftigte stärken, während wichtige Entscheidungen unter menschlicher Kontrolle bleiben.
Entscheidend ist nicht allein, wie schnell KI antwortet. Unternehmen brauchen überprüfbares Wissen, klare Grenzen und Menschen, die eingreifen und Verantwortung übernehmen können.