„Mit KI“ ist zu einer sichtbaren Produkteigenschaft geworden. Der Ausdruck sagt jedoch wenig darüber aus, ob eine App dadurch verständlicher, schneller oder verlässlicher wird. Eine Textzusammenfassung kann mühsame Vorarbeit reduzieren. Eine automatisch erzeugte Einordnung kann ebenso einen Fehler überzeugend formulieren und damit schwerer erkennbar machen. Zwischen beiden Ergebnissen liegt nicht nur die Qualität eines Modells, sondern die Gestaltung des gesamten Produkts.
Eine sinnvolle KI-Funktion beginnt deshalb nicht mit der Frage, welches Modell integriert werden kann. Sie beginnt mit einer konkreten Situation: Welchen Schritt versucht eine Person zu erledigen? Was ist daran heute langsam oder fehleranfällig? Welches Ergebnis wäre hilfreich? Und welche Folgen hätte es, wenn der Vorschlag falsch ist?
Erst wenn diese Fragen beantwortet sind, lässt sich beurteilen, ob maschinelles Lernen, eine generative Funktion oder eine klassische Regel die passende Technik ist.
Von der Aufgabe zur überprüfbaren Unterstützung
KI kann dort nützlich sein, wo Eingaben vielfältig sind und ein System keine einzige starre Antwort erwarten kann. Eine App könnte freie Notizen nach Themen gruppieren, eine lange Beschreibung zusammenfassen, Suchbegriffe erweitern oder aus einem Dokument einen Entwurf für Felder vorschlagen. In all diesen Fällen unterstützt sie einen begrenzten Schritt. Die Person behält ein verständliches Ziel und kann das Ergebnis prüfen.
Weniger geeignet ist die Formulierung „ein Assistent für alles“. Sie lässt weder Qualität noch Grenzen testen. Ein Produktteam braucht stattdessen Beispiele für gute, akzeptable und gefährliche Ergebnisse. Bei einer Suche kann ein unvollständiger Treffer ärgerlich sein. Bei einer rechtlichen, finanziellen oder gesundheitlichen Einordnung kann eine falsche Antwort erhebliche Folgen haben. Dasselbe technische Verfahren benötigt je nach Kontext eine andere Oberfläche, Prüfung und möglicherweise eine bewusste Entscheidung gegen Automatisierung.
Ein nützliches Anforderungsformat lautet: „Das System schlägt vor, der Mensch entscheidet.“ Es definiert noch keine vollständige Sicherheit, verhindert aber eine wichtige Verwechslung. Ein Vorschlag ist kein bestätigter Fakt. Wo die App Daten verändern soll, muss klar sein, was vorgeschlagen wurde, was übernommen wird und wie eine Korrektur möglich ist.
Gute Kandidaten: Suche, Strukturierung und Entwürfe
Suche ist ein häufiges Einsatzfeld, weil Menschen nicht immer dieselben Begriffe verwenden wie ein Datenbestand. Eine intelligente Suche kann Synonyme oder inhaltlich ähnliche Formulierungen berücksichtigen. Trotzdem sollte sie erkennbare Treffer zeigen und nicht so tun, als hätte sie eine einzige endgültige Antwort. Filter, sortierbare Listen und eine klassische Textsuche bleiben wertvoll, besonders wenn exakte Namen, Nummern oder Daten gesucht werden.
Bei der Strukturierung kann KI aus unregelmäßigem Text Vorschläge für Kategorien oder Felder ableiten. Eine handschriftlich übertragene Notiz über eine Reparatur könnte beispielsweise Datum, Gegenstand und nächsten Schritt enthalten. Die App darf diese Werte hervorheben, sollte sie aber vor dem Speichern zur Prüfung anzeigen. Ein falsch gelesenes Datum ist leichter zu korrigieren, solange es noch ein sichtbarer Vorschlag ist.
Zusammenfassungen helfen, wenn eine Person einen langen Inhalt schneller überblicken möchte. Dabei muss die Originalquelle erreichbar bleiben. Eine Zusammenfassung kann Details auslassen oder Beziehungen falsch gewichten. Sie ist eine Lesestütze, kein Ersatz für den maßgeblichen Vertrag, Bericht oder Bescheid.
Auch Formulierungshilfen können sinnvoll sein: ein Entwurf für eine sachliche Nachricht, eine kürzere Beschreibung oder eine besser gegliederte Notiz. Gute Gestaltung zeigt an, dass der Text erzeugt wurde, und ermöglicht einfache Änderungen. Die Verantwortung für das Absenden darf nicht hinter einer scheinbar fertigen Formulierung verschwinden.
Unsicherheit gehört in die Oberfläche
Generative Systeme produzieren häufig flüssige Antworten, auch wenn ihnen Informationen fehlen. Gerade diese sprachliche Sicherheit kann Nutzer täuschen. Apple empfiehlt für generative Funktionen unter anderem, klar zu kommunizieren, wann KI verwendet wird, Erwartungen und Grenzen zu erklären, keine übertriebene Genauigkeit zu suggerieren und eine Möglichkeit zur Prüfung oder Rückmeldung zu geben.
Eine bloße Fußnote „Kann Fehler enthalten“ reicht dafür selten aus. Die Interaktion selbst sollte dem Risiko entsprechen. Bei einer vorgeschlagenen Kategorie kann eine editierbare Auswahl genügen. Bei mehreren extrahierten Vertragsdaten ist ein Vergleich mit der Quelle sinnvoll. Wenn eine Antwort auf unsicheren oder unvollständigen Informationen beruht, sollte die App lieber um Klärung bitten als eine Lücke zu überdecken.
Auch die Sprache der Oberfläche beeinflusst Erwartungen. „Automatisch erkannt“ klingt endgültiger als „Vorschlag“. Ein hervorgehobener Primärbutton kann Menschen zum ungeprüften Übernehmen drängen. Neutrale Darstellung, nachvollziehbare Herkunft und ein klarer Rückweg machen deutlich, dass menschliche Kontrolle Teil des vorgesehenen Ablaufs ist.
Kennzeichnung ist mehr als ein KI-Symbol
Ein Funkeln-Icon hat sich als allgemeines Zeichen für KI-Funktionen verbreitet. Ohne Text erklärt es jedoch weder den Datenfluss noch das Verhalten. Menschen müssen wissen, was beim Aktivieren geschieht: Wird nur der ausgewählte Absatz verarbeitet oder das gesamte Dokument? Bleibt die Verarbeitung auf dem Gerät? Gehen Daten an einen externen Dienst? Wird das Ergebnis gespeichert? Kann die Funktion deaktiviert werden?
Diese Informationen gehören an die Entscheidungspunkte. Eine kurze, verständliche Erklärung vor der ersten Verwendung ist hilfreicher als eine ausschließlich juristische Beschreibung in einem entfernten Dokument. Bei wiederkehrenden Aktionen sollten wesentliche Hinweise auffindbar bleiben, ohne jeden Ablauf mit Warnungen zu überladen.
Kennzeichnung betrifft außerdem den erzeugten Inhalt. Wenn eine Zusammenfassung später neben manuell verfassten Notizen erscheint, sollte ihre Herkunft weiterhin erkennbar sein. Wird sie nach einer menschlichen Prüfung übernommen oder wesentlich bearbeitet, kann das Produkt einen nachvollziehbaren Status verwenden. Ziel ist nicht, jede Zeile dauerhaft zu stigmatisieren, sondern Vertrauen durch klare Provenienz zu ermöglichen.
Datenfluss und Datenschutz vor der Integration klären
Eine KI-Funktion kann Daten vollständig auf dem Gerät verarbeiten oder Anfragen an einen Cloud-Dienst senden. Beide Wege haben Vorteile und Grenzen. On-Device-Modelle können offline arbeiten, Antwortzeiten verkürzen und Inhalte auf dem Gerät halten. Sie sind durch Rechenleistung, Energie, Speicher und das verfügbare Modell begrenzt. Cloud-Modelle können leistungsfähiger oder schneller aktualisierbar sein, benötigen aber eine Netzwerkverbindung und übertragen Daten an eine zusätzliche Infrastruktur.
Android Developers beschreibt diese Abwägung ausdrücklich: On-Device-Verarbeitung stärkt unter anderem Offline-Nutzung und Datenschutz, während Cloud-Lösungen größere Modelle und mehr Rechenleistung ermöglichen können. Für das Produkt folgt daraus keine allgemeine Siegerarchitektur. Entscheidend sind Datensensibilität, Aufgabe, Qualitätsanforderung, Geräteklasse, Kosten und erwartetes Verhalten ohne Netz.
Vor einer Cloud-Integration müssen Anbieter, Verarbeitungszweck, Speicherfristen, Trainingsnutzung, Region, Zugriffsschutz und Löschung geklärt werden. Das Prinzip der Datenminimierung bleibt wichtig: Wenn für eine Zusammenfassung ein einzelner Absatz genügt, sollte nicht vorsorglich die vollständige Akte übertragen werden. Direkte Kennungen können möglicherweise entfernt oder ersetzt werden, bevor Inhalte das Gerät verlassen.
Auch lokale Verarbeitung braucht Datenschutzarbeit. Ein heruntergeladenes Modell benötigt Speicher. Temporäre Dateien und Protokolle können sensible Inhalte enthalten. Eingaben und Ergebnisse müssen im vorgesehenen Lebenszyklus gelöscht werden können. „Lokal“ ist keine Abkürzung für eine vollständige Sicherheitsbewertung.
Kosten und Abhängigkeiten gehören zur Produktentscheidung
Cloudbasierte KI wird häufig nach Nutzung abgerechnet. Eine Funktion, die in einer Demo wenige Anfragen erzeugt, kann im Alltag deutlich teurer werden. Lange Eingaben, wiederholte Versuche, Bilder oder größere Nutzerzahlen verändern die Betriebskosten. Limits und Sparmaßnahmen dürfen den Kernablauf später nicht unvorhersehbar verschlechtern.
Daneben entsteht eine technische Abhängigkeit. Modelle, Preise, Richtlinien und Schnittstellen können sich ändern. Ein Anbieter kann ein Modell abkündigen oder dessen Verhalten aktualisieren. Das Produkt braucht deshalb eine Strategie für Versionen, Qualitätsprüfungen und einen möglichen Wechsel. Ein KI-Dienst ist kein unveränderliches Paket, das nach der Integration dauerhaft gleich bleibt.
Ein verlässlicher manueller Weg ist nicht nur eine Komfortoption. Er schützt die Kernaufgabe bei Netzproblemen, Anbieterfehlern, ausgeschöpften Limits oder unzureichender Qualität. Wenn eine Notiz nur mit KI gespeichert werden kann, obwohl einfache Felder genügen würden, ist die Architektur unnötig fragil. Wenn KI den ersten Entwurf beschleunigt, die Eingabe aber weiterhin direkt möglich bleibt, ist die Abhängigkeit kontrollierbarer.
Qualität muss im tatsächlichen Kontext geprüft werden
Ein Modell kann in allgemeinen Benchmarks gut abschneiden und in einer konkreten App dennoch unbrauchbar sein. Fachbegriffe, Sprachen, kurze Eingaben, fehlerhafte Fotos und reale Dokumentstrukturen verändern das Ergebnis. Tests müssen daher aus dem vorgesehenen Nutzungskontext stammen und auch seltene, widersprüchliche oder absichtlich problematische Fälle enthalten.
Das NIST AI Risk Management Framework beschreibt einen kontinuierlichen Umgang mit KI-Risiken über die Bereiche Govern, Map, Measure und Manage. Die ergänzende NIST-Publikation zu generativer KI behandelt unter anderem Konfabulationen, Datenschutz, Informationsintegrität und Abhängigkeiten in der Wertschöpfungskette. Für ein kleines Produktteam lässt sich daraus eine praktische Haltung ableiten: Risiken vor der Entwicklung einordnen, Wirkung mit geeigneten Fällen messen, Zuständigkeiten festlegen und das Verhalten nach der Einführung weiter beobachten.
Metriken sollten zum Produktziel passen. Für eine Extraktion sind Genauigkeit pro Feld, notwendige Korrekturen und übersehene Werte interessanter als die bloße Zahl erzeugter Vorschläge. Bei einer Suche zählen hilfreiche Treffer und erfolglose Anfragen. Bei Zusammenfassungen sollte geprüft werden, ob wesentliche Aussagen erhalten bleiben und keine neuen Fakten erscheinen.
Qualität verändert sich außerdem mit Sprache und Inhalt. Eine Funktion darf nicht nur anhand sauberer englischer Beispielsätze freigegeben werden, wenn Menschen deutschsprachige Fotos, Abkürzungen oder gemischte Dokumente verwenden. Wo keine ausreichenden Daten für eine belastbare Bewertung vorliegen, ist ein engerer Einsatzbereich ehrlicher als eine allgemeine Zusage.
Wann eine klassische Funktion die bessere Wahl ist
Viele Probleme, die als KI-Anwendungsfall beschrieben werden, lassen sich verlässlicher mit bewährten Mitteln lösen. Eine sortierte Liste braucht kein Sprachmodell. Exakte Zählernummern sind mit normaler Suche gut auffindbar. Eine wiederkehrende Erinnerung benötigt eine Regel, kein generiertes Datum. Pflichtfelder, Vorlagen und sinnvolle Standardwerte können eine Eingabe beschleunigen, ohne Unsicherheit einzuführen.
Die klassische Lösung ist besonders stark, wenn Regeln stabil, Ergebnisse eindeutig und Fehlerfolgen hoch sind. Sie ist leichter zu testen, häufig günstiger und unabhängig von einem externen Modell. KI lohnt sich eher dort, wo die Variabilität des Inputs den zusätzlichen Aufwand rechtfertigt und ein überprüfbarer Vorschlag echten Nutzen bietet.
Ein einfacher Vergleich hilft: Kann die Aufgabe vollständig als klare Regel beschrieben werden? Dann sollte diese Regel zuerst geprüft werden. Muss das System Bedeutung aus vielfältigem, unstrukturiertem Material erschließen? Dann kann KI ein Kandidat sein. Ist das Ergebnis unmittelbar folgenreich und kaum überprüfbar? Dann kann die richtige Entscheidung auch lauten, es nicht zu automatisieren.
Eine verantwortungsvolle KI-Funktion darf unspektakulär sein
Die beste Integration ist nicht unbedingt die sichtbarste. Sie kann im richtigen Moment eine Suche verbessern, Felder vorschlagen oder einen langen Text überschaubar machen. Danach tritt sie wieder hinter der Aufgabe zurück. Das Produkt bleibt verständlich, wenn die Funktion ausfällt, und die Person behält die Entscheidung.
Verantwortungsvolle KI bedeutet deshalb nicht, Innovation zu vermeiden. Es bedeutet, Nutzen und Risiko gemeinsam zu gestalten: konkrete Aufgabe, geeignete Architektur, minimale Daten, sichtbare Unsicherheit, überprüfbares Ergebnis, verlässliche Alternative und laufende Qualitätskontrolle.
Wer diese Anforderungen nicht benennen kann, hat noch keine KI-Funktion, sondern eine technische Möglichkeit. Erst die Einbettung in einen klaren menschlichen Ablauf macht daraus ein gutes Produkt.
Quellen und weiterführende Informationen
- Apple Human Interface Guidelines: Generative AI – Gestaltung, Transparenz, Erwartungen und Kontrolle bei generativen Funktionen.
- Android Developers: AI on Android – Abwägungen zwischen On-Device- und Cloud-Verarbeitung.
- NIST AI Risk Management Framework – Rahmenwerk für den Umgang mit Risiken vertrauenswürdiger KI-Systeme.
- NIST AI 600-1: Generative AI Profile – spezifische Risiken und Maßnahmen für generative KI.
