Die Kosten der KI oder : AI in a Bottle 

Die Rechnung für KI kommt bestimmt

Ein Beitrag in der NYT beschäftigt sich mit einem Effekt, den viele Firmen aktuell erleben: Phase 1: KI ist das Schweizer Messer für alle Probleme.
Phase 2: Die KI-Firmen arbeiten nicht umsonst, und ihre Abrechnungsmodelle zeigen erst mit der Schlussrechnung, wie teuer der Luxus der KI ist.
Man schaut  langsam genauer hin, auf die Kosten.

Über den Post zum Gift Link ohne PW


AI-Firmen rechnen in Token ab, kleine Einheiten, bei denen ein Wort meist aus etwa 1,5 oder mehr Token besteht.
Bei der Nutzung als Sprachautomaten ist das meist kein Problem, anders sieht es aus, wenn man mit KI programmiert und mit Agenten arbeitet. Das kann kosten.

Da ich nur vereinzelt KI-Systeme für Codingaufgaben nutze, stoße ich selten an Grenzen, z. B. wenn das begrenzte Kontextfenster zu voll wird oder wenn ich das 5-Stunden-Zeitlimit von Claude überschreite.
Aber die Vorteile überwiegen, LLMs sind prima Lektoren und, in Kombination mit Audio-KIs, auch hervorragende Diktatmaschinen.

Jedes LLM ist eine KI, nicht jede KI ist ein LLM: 
[ Künstliche Intelligenz (KI) 
    [ Maschinelles Lernen (ML) 
        [ Deep Learning (DL) 
            [ Large Language Models (LLM) ]

LLMs sind Text- und Sprachmodelle, Statistik sagt Ihnen: das past!

Mehr Schreiben dank KI


Mein juristischer Alltag besteht zu 90 % aus wiederkehrenden Aufgaben. Ki sind das perfekte Zulieferer, wenn man die anwaltliche Schweigepflicht und die DSGVO beachtet. Googles und Microsofts Bezahlmodelle haben sich darauf eingestellt.
Große Zahlenwüsten zu lesen wird einfacher mit KI, und auch den typischen Behördensprachdschungel zu durchqueren wird zum Spaziergang.
Aber für einige Arbeiten muss ich sehr detaillierte Prompts schreiben oder mich auf lange Dialoge mit dem LLM  einlassen, bis ich verwertbare Ergebnisse erhalte. 



Solche Prompts, d. h. Anweisungen, was eine KI mit einem Dokument machen soll, oder was sie recherchieren soll, können lang werden.
Ein “Feinschliff” der KI-Ergebnisse ist am besten im Rahmen eines Dialogs möglich, in dem man der KI  Schritt für Schritt erklärt, wo es hingehen soll. Der Output mag dann gut und hilfreich sein, aber manchmal ist der Zeitaufwand so groß, da hätte ich den Text auch einfach selbst schreiben können. 
D.h., an manchen Tagen schreibe ich mehr Text als je zuvor. 

Der Vorteil? 

Ich arbeitet mich durch komplexe Probleme und bekomme quasi den Partner, der früher am Bürotisch gegenübersaß. So gerne ich dieser Illusion auch erliege ( das DU ist dann üblich), so ist mir auch bewußt: eine KI greift zwar auf gigantische Daten-Ressourcen zu, nur, wie man diese Muster im wirklichen Leben einsetzen kann, da muss man sie hinführen. 

Und das kann viele Prompts = viel Text = viel Zeit kosten.
Token sind eine Währung, Zeit ist eine andere. 

Besser erst Denken, anstatt zu Prompten

Eigentlich steckt ein Denkfehler dahinter:
Viele Aufgaben erscheinen nur deshalb komplex, weil die Strukturen dahinter nie richtig durchdacht wurden.
Wenn ich in der Küche ewig nach einem bestimmten Besteck oder Geschirr suche, sollte ich mir überlegen, ob ich meine Küche nicht so einrichten sollte, daß ich alles schnell finde, wenn ich es brauche,
anstatt einen Roboter zu bitten, die Sachen zu suchen.

Wenn wir autonome KI-Agenten darauf ansetzen, ist das oft nur Symptombekämpfung.
Wer früher mit regulären Ausdrücken (RegEx= komplexe Sprache um Such Algorithmen zu bilden) gearbeitet hat, kennt den Unterschied:
Ein RegEx-Ausdruck war oft so effektiv, dass er sich fast wie das anfühlte, was wir heute KI nennen.
Der Vorteil dieser Arbeit mit RegEx Ausdrücken war: man war gezwungen, das eigentliche strukturelle Problem (… eine unsinnige Ordnerstruktur) zu verstehen, um den Code formulieren zu können.
Hatte man dann Struktur repariert, war das Problem dauerhaft gelöst.
Eigentlich braucht man dann die RegEx nur noch zur schnellen Suche, obwohl sie mehr können.

Die Tech-Giganten haben diesen Weg der eleganten Struktur, wie sie das Internet in seinem Kern bietet, oft ignoriert. Suchmaschinen wie Google haben die semantische Kernstruktur des Internets im Grunde links liegen gelassen und ihre gigantischen Erfolge stattdessen mit brutaler Rechenkraft („Brute Force“) erzielt.

Brutale Kraft löst nicht immer ein Problem.

Um es in einem Bild auszudrücken, das jeder deutsche Autofahrer sofort versteht: Auf deutschen Autobahnen gibt es kein Tempolimit. Ich kann mir also einen PS-Protz mit 600 PS kaufen und theoretisch extrem schnell fahren.
In der Realität bringt mir das aber nichts, wenn ich im Stau stehe. Und diese Staus entstehen oft aus dem Nichts, weil alle Teilnehmer mit völlig unterschiedlichen Geschwindigkeiten und ohne Harmonie fahren.
Würden alle konstant und koordiniert 100 km/h fahren, flösse der Verkehr perfekt und jeder käme schneller ans Ziel.
Damit ich die Tempo-Limit-Feinde nicht verärgere:
Was nutzt mir eine ICE der 300 fährt, wenn die Fahrpläne dann so sensibel werden, dass er sie nicht einhalten kann und nicht mehr pünktlich kommt.
In der Schweiz fahren die Züge schlicht langsamer( ok, das Land ist auch kleiner…), aber pünktlicher, weil man auf resiliente Fahrpläne setzt, und nicht auf High Speed.

Unsere unstrukturierten Daten und chaotischen Prozesse sind genau dieser Stau.
Ein Rechenprotz (die KI) nützt uns überhaupt nichts, wenn es fundamentale strukturelle Bremsen im System gibt.

Man kann die Uhr nicht zurückdrehen, und ich möchte auf die Arbeit mit LLMs und KIs nicht verzichten.
Aber ich ordne sie da ein, wo sie für mich am effektivsten ist. Denn Zeit ist das Gut, das jeder von uns nur begrenzt hat und das man nicht einfach upgraden kann.
Die Euphorie rund um KI wird verschwinden, aber unsere Arbeitsweise hat sich schon jetzt grundlegend und tiefgreifend verändert, denn es gibt kaum eine Tätigkkeit, bei der KI keine Rolle mehr spielt.
Wir denken gerade an die Qualifikation von jungen Menschen für das Internet, ihren Schutzpanzer vor Desinformationen in den sozialen Medien. Aber KI hat hier Möglichkeiten geschaffen, die das Internet in eine Fläche mit Sandlöchern aus Treibsand verwandelt haben. 
KI schreibt oft überzeugender als Menschen und genau das macht sie gefährlicher als Google. Eine Google-Suche liefert Links, der Nutzer muss noch selbst filtern. KI liefert einen fertigen Text im Ton der Autorität, und dieser Ton ist schwer zu hinterfragen.
KI kann jeden Inhalt in der Sprache der Wissenschaft, des Rechts, der Politik kleiden. Das hört sich dann nach Fakten an, muss es aber nicht sein.
Bei einem menschlichen Text merkt man die Brüche noch. Bei KI-Text nicht mehr.

Die Zeit ist unser Maß

Es sind nicht Jobs, Token, Gigabyte oder Verbindungsgeschwindigkeiten, die uns Grenzen setzen.  Es ist die Zeit, denn die setzt uns absolute Grenzen, und der Zeit ist der Hype schlicht egal


KI-Takeaway: Kurz & Bündig

  • Die Kostenfalle: Nach der ersten Euphorie folgt die Ernüchterung. Durch die Token-Abrechnung von Agenten und komplexen Coding-Tools explodieren in Unternehmen gerade die Budgets.
  • Das Zeit-Paradoxon: Wer KIs und LLMs nutzt, schreibt oft mehr Text als je zuvor. Wenn der Aufwand für detaillierte Prompts und den dialogischen Feinschliff zu groß wird, frisst das die Zeitersparnis auf.
  • Der Systemfehler: Wir nutzen KI-Agenten oft nur zur Symptombekämpfung für unstrukturierte Daten und chaotische Prozesse. Doch brutale Rechenkraft hilft im digitalen Stau nicht weiter.
  • Das Fazit: Ein hochgradig durchdachtes System braucht keine KI-Krücken. Am Ende setzt uns nicht die Technik, sondern die absolut begrenzte Ressource Zeit das härteste Limit.