KI im Jahr 2031: mächtig, gewöhnlich und immer noch unsere Verantwortung

Arvind Narayanan und Sayash Kapoor bitten uns, künstliche Intelligenz als «normale Technologie» zu betrachten: potenziell transformativ, aber von Menschen innerhalb bestehender Organisationen und Institutionen entwickelt und eingesetzt. Ihr Essay widerspricht der Vorstellung, ein leistungsfähigeres Modell werde von selbst zu einer autonomen Kraft, die die Gesellschaft über Nacht umgestaltet. Ich stimme weitgehend zu. Die Unterscheidung zwischen dem Erfinden einer Methode, dem Bau einer nützlichen Anwendung und dem Gewinnen von Vertrauen in diese Anwendung überzeugt mich. Doch «normal» darf nicht beruhigend klingen. Gewöhnliche Technologien können ernsthaften Schaden anrichten, und ihr Nutzen hängt davon ab, wer sie kontrolliert. Meine Sicht stützt sich auf drei Thesen.

These 1: Bessere Modelle werden schneller verändern, was möglich ist, als Organisationen verändern, was sie tun. Ein Modell kann in einem Test gut abschneiden und trotzdem an einer Aufgabe scheitern, die aus unordentlichen Daten, unklaren Zielen und Verantwortung für Fehler besteht. Die Trennung von Narayanan und Kapoor zwischen Methoden, Anwendungen und Nutzung erfasst diese Lücke. In einer Erhebung in den USA fanden Bick, Blandin und Deming bereits Ende 2024 eine rasche Nutzung generativer KI, schätzten aber, dass sie nur 1 bis 5 Prozent der Arbeitsstunden unterstützte. Der Unterschied zwischen dem Ausprobieren eines Werkzeugs und der Umgestaltung der Arbeit um dieses Werkzeug herum zählt. Eine andere Art von KI zeigt, was dort auf dem Spiel steht, wo Fehler schwer wiegen: Eine unabhängige Studie zu einem System zur Sepsis-Vorhersage fand in einem Spital deutlich schlechtere Leistungen, als der Hersteller angegeben hatte. Das beweist nicht, dass generative KI in Spitälern scheitern wird. Es zeigt, warum jeder Einsatz lokale Tests, Überwachung und einen Weg braucht, um einzugreifen, wenn ein System irrt. Ich erwarte deshalb einen ungleichen Fortschritt: schnell bei sichtbaren Demonstrationen, langsamer dort, wo Fehler teuer sind.

These 2: KI «normal» zu nennen macht Verantwortung dringlicher, nicht weniger dringlich. Die stärkste Seite des Arguments der normalen Technologie ist, dass es die Aufmerksamkeit auf Entscheidungen zurücklenkt, die Menschen tatsächlich treffen können: welche Systeme sie kaufen, welche Aufgaben sie automatisieren, wer die Ergebnisse prüft und wer die Kosten von Fehlern trägt. Ein kontrolliertes Experiment von Noy und Zhang ergab, dass der Zugang zu ChatGPT den Teilnehmenden half, bestimmte Schreibaufgaben 40 Prozent schneller zu erledigen, bei einer um 18 Prozent höher bewerteten Qualität. Das sind bedeutende Gewinne, aber ein Experiment mit Schreibaufgaben kann nicht belegen, dass jeder Beruf gleich profitiert oder dass die Beschäftigten an den Gewinnen teilhaben. Arbeitgeber könnten dasselbe Werkzeug nutzen, um das Personal zu unterstützen, die Belastung zu erhöhen oder Einstiegsstellen zu streichen. Bevor ich folgenreiche Entscheidungen delegieren würde, verlangte ich Belege aus dem echten Einsatz, und ich behielte klare Wege für menschliche Überprüfung und Einspruch bei. Narayanan und Kapoor betonen zu Recht Widerstandsfähigkeit und Institutionen; ich bin weniger zuversichtlich als sie, dass gewöhnliche Anreize ohne externe Kontrolle verlässlich genug Vorsicht hervorbringen.

These 3: Im September 2031 wird KI in vielen Arbeitsabläufen Routine sein, aber ihre eigenständige Entscheidungsgewalt bleibt begrenzt und ungleich verteilt. Meine Fünfjahresprognose lautet, dass Entwürfe, Übersetzungen, Programmierhilfe, Recherche und Dokumentenanalyse oft mit einer KI beginnen werden. Einige Software-Agenten werden abgegrenzte Aufgaben erledigen, wenn sich ihre Handlungen prüfen oder rückgängig machen lassen. In der Medizin, im Recht und in der öffentlichen Verwaltung erwarte ich jedoch, dass der schwierigste Teil der Nachweis bleibt, dass ein System genau dort funktioniert, wo es eingesetzt wird. Menschen werden weiterhin viele folgenreiche Handlungen abzeichnen, und Organisationen werden erheblichen Aufwand in Evaluation, Datenzugang, Schulung und Aufsicht stecken. Das ist eine Prognose über die Nutzung, nicht die Behauptung, die Modellforschung werde sich verlangsamen. Ein grosser Durchbruch bei der Zuverlässigkeit könnte die Nutzung schneller vorantreiben, als ich erwarte, während schlechte Anreize oder schwache Institutionen die Schäden auch ohne einen solchen Durchbruch verschlimmern könnten. Um diese Prognose 2031 zu beurteilen, würde ich über Benchmark-Werte hinausblicken: Welcher Anteil der tatsächlichen Arbeit wird unterstützt oder automatisiert? Welche Entscheidungen können angefochten werden? Wer ist verantwortlich, wenn ein KI-System versagt?

Die Perspektive der normalen Technologie erlaubt mir, zwei Gedanken zusammenzuhalten: KI kann mächtig sein, und die Gesellschaft hat weiterhin Wahlmöglichkeiten bei ihrem Einsatz. Die nächsten fünf Jahre werden zeigen, ob wir Institutionen aufbauen, die diese Entscheidungen gut treffen können.

Literatur

• Bick, A., Blandin, A. und Deming, D. J. (Revision 2025). The Rapid Adoption of Generative AI. NBER Working Paper 32966.
• Narayanan, A. und Kapoor, S. (2025). AI as Normal Technology. Knight First Amendment Institute.
• Noy, S. und Zhang, W. (2023). Experimental evidence on the productivity effects of generative artificial intelligence. Science, 381(6654), 187-192.
• Wong, A. et al. (2021). External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients. JAMA Internal Medicine, 181(8), 1065-1070.