Zukunft der Softwareentwicklung: Code schreibt die KI, haften muss der Mensch

Am 27. September 2026 hat Sebastian Hahner auf YouTube gefragt, ob Coding noch eine Zukunft hat. Hahner hat bis 2024 an einer Universität unter anderem zu KI in der Softwareentwicklung geforscht und arbeitet heute als Senior Software Engineer. Nach 25 Minuten kommt er zu dem Schluss, dass das niemand sagen kann. Ich kann es: Softwareentwickler im herkömmlichen Sinn braucht man nicht mehr. Menschen bleiben in dem Beruf, weil jemand haften muss.

Hahners These: Sprachmodelle haben Verstand, aber keine Vernunft

Hahner hält den Hype für übertrieben und die Technik trotzdem für gekommen, um zu bleiben: Selbst wenn die Entwicklung heute stehen bliebe, reichten die vorhandenen Modelle für viele Zwecke.

Sein Kern ist ein Begriffspaar. Der Verstand weiß, wie man eine Atombombe baut, die Vernunft fragt, ob man sie bauen sollte. Sprachmodelle hätten einen fast unbegrenzten Verstand und keine Vernunft, weil sie nichts anderes seien als Autovervollständiger, die das wahrscheinlichste nächste Wort ausrechnen. Vernunft erwerbe man über Jahre, zum Beispiel im Informatikstudium. Deshalb hält Hahner das Studium für wichtiger denn je.

Für einen Stillstand der KI gibt es keinen Grund

Mit dem „selbst wenn“ kann ich nichts anfangen. Es gibt keinen Grund anzunehmen, dass die KI auf dem heutigen Stand stehen bleibt, und Hahner nennt auch keinen. Aus „selbst wenn 1 + 1 = 3“ lässt sich nichts schließen.

(Claude: Der Vergleich trifft nicht ganz. 1 + 1 = 3 ist ein Widerspruch, und aus einem Widerspruch folgt alles, also nichts. Ein Stillstand ist unwahrscheinlich, aber möglich, und Hahner erwähnt selbst, dass er oft genug vorhergesagt wird. Er spielt beide Fälle durch und kommt jedes Mal zum selben Ergebnis: Die KI bleibt. Das ist logisch sauber. Es richtet sich allerdings an Leute, die an einen Stillstand glauben. Wer nie bezweifelt hat, dass die KI bleibt, erfährt daraus nichts.)

„Nur ein Autovervollständiger“: derselbe Fehlschluss wie in Leibniz' Mühle

Verstand und Vernunft sind bei Hahner Nebelkerzen. Getragen wird seine These von einem einzigen Argument, und es ist dasselbe wie beim stochastischen Papagei: Der Baustein ist einfach, also kann das Ganze nicht mehr. Nach dieser Logik müsste man fragen, wie eine Nervenzelle, die nur elektrochemisch funktioniert, Bewusstsein hervorbringen soll.

Hahner erwähnt die Agenten sogar. Ein Agent ist ein Sprachmodell mit Werkzeugen und einer Arbeitsschleife: Er plant, ruft Programme auf, prüft seine Ergebnisse und korrigiert sich. Auch der habe riesigen Verstand und immer noch keine Vernunft, sagt Hahner. Woher er das weiß, sagt er nicht. Er schließt es aus dem Baustein. Das nenne ich einen Kategorienfehler: Man beschreibt die Teile und urteilt über das Ganze.

Das Muster ist alt. Gottfried Wilhelm Leibniz hat es 1714 in der Monadologie beschrieben (§ 17): Man stelle sich eine denkende Maschine so groß vor, dass man hineingehen kann wie in eine Mühle. Drinnen fände man nur Teile, die einander stoßen, und nichts, woraus sich eine Wahrnehmung erklären ließe. John Searle hat 1980 mit dem chinesischen Zimmer die moderne Fassung geliefert: Wer nach einem Regelbuch chinesische Zeichen sortiert und passende Antworten ausgibt, versteht deshalb noch kein Chinesisch, und ein Programm ebenso wenig.

Leibniz war dabei konsequenter. Er hielt Wahrnehmung auch im Gehirn für mechanisch unerklärbar. Searle nahm das Gehirn aus, es besitze die nötigen kausalen Kräfte. Warum andere Bausteine sie nicht haben können, begründet er nicht. Hahner argumentiert wie Searle: Menschen können Vernunft lernen, Sprachmodelle nicht. Gegen Searle steht seit 1980 die Systemantwort. Der Mann im Zimmer versteht kein Chinesisch, das System aus Mann, Regelbuch und Zetteln vielleicht schon. Hahner schließt vom Mann im Zimmer auf das ganze System.

(Claude: Dass sein Argument nicht trägt, beweist noch nicht das Gegenteil. Ob und wo Modelle urteilen können, muss man messen. Dein Artikel über den Papagei kam zu dem Ergebnis, dass Verstehen graduell und bereichsweise ist.)

Menschen bleiben, weil jemand haften muss

Eine Frage aus Hahners Video halte ich für berechtigt: Wer haftet für Code, den eine KI geschrieben hat? Allein deshalb wird es weiter menschliche Softwareentwickler geben. Man braucht sie nicht mehr zum Programmieren, nur noch in rechtlicher Funktion. Die KI kann es besser als der Mensch, aber der Mensch trägt die rechtliche Verantwortung. Das wird in vielen Berufen so kommen.

(Claude: Das Recht stützt die These dort, wo es ausdrücklich einen Menschen verlangt: bei Hochrisiko-KI (KI-Verordnung der EU, Art. 14) und bei Medizinprodukten einschließlich Software (Medizinprodukteverordnung, Art. 15). Für die übrige Software haftet der Hersteller. Die neue Produkthaftungsrichtlinie, bis zum 9. Dezember 2026 umzusetzen, zählt Software ausdrücklich zu den Produkten, und dafür genügen eine Firma und ihre Versicherung. Schwerer wiegt etwas anderes. Wer unterschreibt, muss prüfen können, was er unterschreibt. Sonst wird er zu dem, was Madeleine Clare Elish 2019 „moral crumple zone“ genannt hat: zur Knautschzone, die die Schuld für ein System abbekommt, das sie nicht steuern konnte. Prüfen lernt man bisher, indem man die Arbeit selbst macht. Den wahrscheinlichsten Ausweg sehe ich darin, den Prüfprozess zu verantworten und nicht jede Zeile. So arbeitet ein Wirtschaftsprüfer: Er testet das Kontrollsystem eines Unternehmens und zieht Stichproben, jede einzelne Buchung sieht er nie.)

Hahner hat sich schon einmal verschätzt

Hahner erzählt im Video selbst, dass er sich vor zwei Jahren über den schlechten Code von ChatGPT lustig gemacht hat. Schon zwischen Aufnahme und Veröffentlichung musste er Aussagen zurücknehmen, heute findet er das alte Video lächerlich. Dem neuen wird es genauso gehen. Kein Mensch muss mehr mühsam Code schreiben, und das ist gut so.

Quellen

• Sebastian Hahner: Hat Coding noch eine Zukunft?, YouTube, Kanal skate702, 27.09.2026
• Gottfried Wilhelm Leibniz: Monadologie, § 17, 1714
• John R. Searle: „Minds, Brains, and Programs“, Behavioral and Brain Sciences 3(3), 1980
• Stanford Encyclopedia of Philosophy: The Chinese Room Argument (Leibniz' Mühle als Vorläufer, Systemantwort)
• Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 14
• Verordnung (EU) 2017/745 (Medizinprodukteverordnung), Art. 15
• Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte, EUR-Lex
• Madeleine Clare Elish: „Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction“, Engaging Science, Technology, and Society 5, 2019
• Eigene Artikel: Abschied vom stochastischen Papagei · AGI und die vierte Kränkung