Begriffe für Entscheider

AI Act KI-Verordnung (EU) 2024/1689

Die europäische Verordnung über künstliche Intelligenz. Sie ordnet KI-Systeme nach Risiko ein und knüpft daran Pflichten, die stufenweise gelten. Ob eine selbst gebaute Anwendung darunter fällt, hängt davon ab, was sie tut, nicht davon, wie sie gebaut wurde.

Warum das für Sie zähltWer mit KI-Werkzeugen Software baut, die selbst KI-Funktionen enthält, muss die Risikoklasse kennen, bevor die Anwendung live geht.

Claude Code

Ein Coding-Agent von Anthropic, der im Terminal oder in der Entwicklungsumgebung arbeitet. Er liest ein bestehendes Projekt, plant Änderungen und setzt sie über mehrere Dateien hinweg um.

Warum das für Sie zähltSteht stellvertretend für Werkzeuge, die nicht nur Vorschläge machen, sondern selbstständig handeln. Das verändert, wer was prüfen muss.

Codex

Der Coding-Agent von OpenAI. Er kann Aufgaben in einer abgeschotteten Umgebung bearbeiten und Änderungen zur Prüfung vorlegen.

Warum das für Sie zähltZeigt, dass mehrere große Anbieter dieselbe Werkzeugkategorie besetzen. Das ist relevant für Verhandlungen und für die Frage nach Abhängigkeiten.

Coding Agent Coding-Agent

Ein KI-System, das eine Aufgabe in Teilschritte zerlegt, Code schreibt, ausführt, Fehler liest und nachbessert, bis ein Ergebnis steht. Beispiele sind Claude Code und Codex.

Warum das für Sie zähltAgenten sparen viel Zeit, handeln aber mit den Rechten, die man ihnen gibt. Welche Zugriffe sie bekommen, ist eine Leitungsfrage.

Cursor

Ein Code-Editor mit eingebauter KI, der Vorschläge macht, Fragen zum Code beantwortet und im Agentenmodus auch selbstständig Änderungen vornimmt. Er richtet sich an Menschen, die Code lesen können.

Warum das für Sie zähltHäufig das erste Werkzeug, das Entwicklungsteams beantragen. Lizenzmodell, Datennutzung und Freigabe gehören auf Ihre Checkliste.

Cyber Resilience Act CRA, Verordnung (EU) 2024/2847

Die EU-Verordnung über Cybersicherheitsanforderungen an Produkte mit digitalen Elementen. Sie verpflichtet Hersteller unter anderem zu Sicherheit über den Lebenszyklus, zum Umgang mit Schwachstellen und zu Meldungen. Die Pflichten greifen gestaffelt.

Warum das für Sie zähltWer Software oder Geräte mit Software vertreibt, bleibt Hersteller, auch wenn ein Werkzeug den Code geschrieben hat. Prüfen Sie die geltenden Fristen mit Ihrer Rechtsberatung.

Halluzination

Eine überzeugend formulierte, aber falsche Ausgabe eines Sprachmodells, etwa eine erfundene Funktion, Bibliothek oder Quelle.

Warum das für Sie zähltSicher klingende Antworten ersetzen keine Prüfung. Wer im Unternehmen prüft, und mit welchem Aufwand, gehört in jede Kostenrechnung.

Kontextfenster Context Window

Die Menge an Text, die ein Sprachmodell bei einer Anfrage gleichzeitig berücksichtigen kann: Anweisungen, Code, Dokumente und bisheriger Verlauf.

Warum das für Sie zähltErklärt, warum KI-Werkzeuge bei großen, gewachsenen Systemen schwächer werden und warum mehr Kontext meist auch mehr Kosten bedeutet.

LLM Large Language Model, großes Sprachmodell

Das Modell hinter Chat- und Coding-Werkzeugen. Es erzeugt Text oder Code, indem es auf Basis riesiger Trainingsdaten das wahrscheinlich passende Nächste vorhersagt.

Warum das für Sie zähltDie Werkzeuge wechseln, die Modelle darunter auch. Verträge und Freigaben sollten das berücksichtigen, statt nur einen Produktnamen zu nennen.

Lovable, Bolt App-Baukästen

Werkzeuge, die aus einer Beschreibung in Alltagssprache eine komplette Web-Anwendung mit Oberfläche, Datenbank und Veröffentlichung erzeugen. Sie zielen ausdrücklich auch auf Menschen ohne Programmierkenntnisse.

Warum das für Sie zähltHier entstehen Prototypen in Fachbereichen am schnellsten. Die Frage ist, was davon ein Produkt werden darf und wer es dann betreibt.

MCP Model Context Protocol

Ein offener Standard, über den KI-Werkzeuge an andere Systeme angeschlossen werden: Datenbanken, Ticketsysteme, interne Dienste. Er wurde von Anthropic vorgestellt und wird inzwischen von vielen Anbietern unterstützt.

Warum das für Sie zähltJeder Anschluss erweitert, was ein Agent sehen und verändern kann. Welche Systeme angebunden werden dürfen, sollte eine bewusste Freigabe sein.

Produkthaftungsrichtlinie Richtlinie (EU) 2024/2853

Die neue EU-Produkthaftungsrichtlinie bezieht Software ausdrücklich als Produkt ein. Sie muss von den Mitgliedstaaten in nationales Recht umgesetzt werden und ersetzt die bisherige Richtlinie aus dem Jahr 1985.

Warum das für Sie zähltFür Unternehmen, die Software ausliefern oder in Produkte einbauen, verschiebt sich das Haftungsrisiko. Das betrifft KI-gebauten Code genauso wie jeden anderen.

Prompt

Die Anweisung, die man einem KI-Werkzeug gibt, also die Beschreibung dessen, was entstehen soll, samt Rahmenbedingungen.

Warum das für Sie zähltDie Leitung muss nicht selbst prompten können. Sie sollte aber wissen, dass die Qualität des Ergebnisses stark von der Klarheit der Anforderung abhängt, wie bei jedem Dienstleister.

Review Code-Review

Die Prüfung von Code durch eine zweite Person, bevor er übernommen wird. Bei KI-generiertem Code ist sie oft die wichtigste Qualitätssicherung.

Warum das für Sie zähltWenn Code schneller entsteht, wird das Review zum Engpass. Ein realistischer Business Case rechnet diesen Aufwand mit ein.

Technical Debt Technische Schulden

Die Folgekosten von Abkürzungen im Code: Lösungen, die heute funktionieren, aber spätere Änderungen verteuern, bis sie aufgeräumt werden.

Warum das für Sie zähltSchnell gebauter Code kann diese Schulden schnell anhäufen. Sie tauchen in keiner Lizenzrechnung auf, wohl aber im Wartungsbudget.

Token-Kosten

Die nutzungsabhängigen Kosten von KI-Modellen. Abgerechnet wird nach Tokens, also nach Textbausteinen, die das Modell liest und erzeugt.

Warum das für Sie zähltNeben festen Lizenzen entstehen variable Kosten, die mit intensiver Nutzung durch Agenten deutlich steigen können. Setzen Sie Budgetgrenzen, bevor Sie skalieren.

Urheberrecht an KI-Code

Die Frage, wem generierter Code gehört und ob er geschützt ist. Hinzu kommt das Risiko, dass ein Werkzeug Code wiedergibt, der unter einer fremden Lizenz steht.

Warum das für Sie zähltRelevant für Verträge mit Dienstleistern und für jedes Produkt, das Sie verkaufen. Klären Sie das mit Ihrer Rechtsberatung, bevor Sie sich darauf verlassen.

Vendor Lock-in

Die Abhängigkeit von einem Anbieter, die einen Wechsel teuer oder schwierig macht, etwa durch proprietäre Formate, Plattformen oder eingespielte Arbeitsweisen.

Warum das für Sie zähltDer Markt für KI-Werkzeuge bewegt sich schnell. Wer heute einen Anbieter festschreibt, sollte den Ausstieg mitverhandeln.

Vibe Coding

Ein Begriff, den der KI-Forscher Andrej Karpathy Anfang 2025 prägte: Software entsteht, indem man einer KI in Alltagssprache beschreibt, was man will, und das Ergebnis übernimmt, ohne den Code im Detail zu lesen. Heute wird der Begriff oft für KI-gestützte Entwicklung insgesamt verwendet.

Warum das für Sie zähltFür die Leitung zählt der Unterschied: Ein schneller Prototyp ohne Codeprüfung ist etwas anderes als Produktivsoftware, für die Ihr Unternehmen haftet.

Weiterlesen: Das Seminar

Hinweis: Die Erläuterungen zu Recht und Haftung dienen der Orientierung für die Leitungsebene und sind keine Rechtsberatung.