Inferenz auf dem Gerät · llama.rn

Ein KI-Coach, der niemals nach Hause ruft.

Viele Wellness-Apps verwenden Cloud-Inferenz. PulseWave's Coach nicht: Das optionale Modell wird in der App über llama.rn ausgeführt und Eingabeaufforderungen werden nicht an einen externen Modellanbieter gesendet. Stimmungseinträge und Gedankenaufzeichnungen bleiben standardmäßig auf dem Gerät. Wenn Sie die Synchronisierung aktivieren, können die zugrunde liegenden Datensätze auch in einem benutzerspezifischen Firestore-Datensatz unter den in der Datenschutzrichtlinie beschriebenen Kontrollen gespeichert werden; Sie werden nicht für Analysen, Shared-Model-Schulungen oder Werbung verwendet.

llama.rnLokale Laufzeit
Keine API AufrufeArchitektur
GGUFModellformat
CBT-fähigReframe-Stil
  1. Startseite
  2. PulseWave
  3. KI auf dem Gerät

Was der Coach tatsächlich tut

Vier Jobs, alle absichtlich eng gehalten. Es geht nicht darum, ein Chat-Begleiter zu sein; Es geht darum, die richtige Intervention zur richtigen Zeit anzustoßen und Journaleinträge nützlich zu machen, anstatt nur eine Aufzeichnung.

1. Praxis-Coaching

Wenn Sie eine Atem- oder Meditationssitzung abschließen, verwendet der Coach Ihren aktuellen Stimmungseintrag, Ihre Ziele, die Tageszeit und den Sitzungsverlauf, um vorzuschlagen, was als nächstes zu tun ist. Manchmal bedeutet das ein Folgeprotokoll. Manchmal bedeutet es, für einen Tag anzuhalten. Das System verwendet eine Regelebene für einfache Entscheidungen und das lokale Modell, wenn eine eher konversationelle Antwort nützlich ist.

2. Erkennung von Journalmustern

Im Journal ist die Verarbeitungsunterscheidung am wichtigsten. Der Coach liest aktuelle Stimmungseinträge und Gedankenaufzeichnungen auf dem Gerät; Diese Eingaben werden nicht an einen externen KI-Modellanbieter gesendet. Das aktuelle Repository kann weiterhin die zugrunde liegenden Einträge in einen authentifizierten Firebase-Datensatz pro Benutzer unter einer anonymen oder verknüpften Benutzer-ID schreiben, wie in der Datenschutzrichtlinie beschrieben.

3. Gedankenneuformulierung im CBT-Stil

Wenn Sie einen schwierigen Gedanken protokollieren, kann der Coach häufige kognitive Verzerrungen (Katastrophisierung, Gedankenlesen, Alles-oder-Nichts-Denken) identifizieren und alternative Formulierungen anbieten. Die Umformulierungen werden als Optionen und nicht als Ankündigungen dargestellt – es geht darum, das Menü der verfügbaren Gedanken zu erweitern, und nicht darum, das zu überschreiben, was Sie hatten.

4. Generierung von Schlafgeschichten

Für Entspannungssitzungen. Sie geben dem Trainer einen Rahmen oder ein Thema und er generiert eine Erzählung für die nächsten zehn bis dreißig Minuten. Da es lokal ist, können Sie alles verlangen; Nichts über Ihre Anfrage wird irgendwo außerhalb des Geräts protokolliert.

Wie es unter der Haube funktioniert

llama.rn stellt Bindungen für die Ausführung quantisierter Open-Weights-Sprachmodelle in React Native bereit und verwendet dabei dieselbe llama.cpp-Inferenz-Engine, die die lokale LLM-Bewegung auf macOS, Linux und Windows vorangetrieben hat. PulseWave lädt bei Bedarf ein kleines Modell im GGUF-Format in den Dokumentenordner der App herunter. Das Modell ist klein genug, um auf iOS 16+ Geräten mit der React Native-Legacy-Bridge ausgeführt zu werden.

Es gibt einen heuristischen Fallback. Wenn Sie das Modell nicht heruntergeladen haben oder die Modellinferenz aus irgendeinem Grund fehlschlägt, bietet eine regelbasierte Engine grundlegendes Coaching. Der Fallback ist dümmer, aber er erfolgt sofort und geht nie kaputt.

Warum wir es so aufgebaut haben

Der direkte Weg wäre gewesen, das Journal mit einer Cloud-API zu verbinden. Der Versand wäre schneller, intelligenter und einfacher gewesen. Wir haben dies nicht getan, weil die Daten sensibel sind, sich die Regulierungslandschaft verändert und die Vertrauenslast, die mit der Aussage einhergeht: „Ihre Notizen zur psychischen Gesundheit werden von unserem externen Modellanbieter verarbeitet“ ist, ist nicht der Fall. Wir fühlten uns mit der Art von Produkt, die wir entwickeln wollten, nicht kompatibel.

Der Kompromiss ist real. Das Modell ist kleiner. Die Antworten sind langsamer. Einige ausgefeilte mehrstufige Überlegungen sind nicht möglich. Wir glauben, dass sich der Tausch für das lohnt, was die App ist – ein persönliches Tool, kein Chat-Begleiter – und wir haben den Job des Trainers darauf ausgelegt, was ein kleines lokales Modell gut kann.

Was wird wo gespeichert

Wie PulseWave den Coach anzeigt

In der Startleiste, innerhalb des Journals, niemals aufdringlich.

Der Trainer erscheint dort, wo er nützlich ist, und bleibt anderswo aus dem Weg. Vorschläge live auf der heimischen Schnellschiene. Musterbeschriftungen erscheinen oben im Tagebuch, wenn es etwas Wertvolles zu sagen gibt. Gedankenneuformulierungen werden kontextbezogen angezeigt, nachdem Sie einen schwierigen Eintrag protokolliert haben. Keine Benachrichtigungen, keine Stupser, keine Schuldgefühle.

  • Adaptive Heimvorschläge – basierend auf Tageszeit, Stimmung und aktuellem Verlauf.
  • Musterhinweise im Tagebuch – sanft aufgetaucht, verwerfbar.
  • CBT wird nach schwierigen Eingaben neu formatiert – pro Eingabe aktiviert.
  • Schlafgeschichtengenerator – auf dem Schlafbildschirm.
  • Heuristik Fallback – funktioniert auch ohne heruntergeladenes Modell.
Veröffentlichungsstatus anzeigen
PulseWave Startbildschirm mit adaptiven KI-Vorschlägen in der Schnellaktionsleiste

FAQ

Auf Ihrem Telefon. PulseWave verwendet llama.rn – eine lokale Sprachmodelllaufzeit für React Native – um die Modellschleife direkt auf iOS auszuführen. Es gibt keine API-Aufrufe an OpenAI, Anthropic, Google oder einen anderen Modellanbieter. An der Generierung von Antworten ist kein Back-End-Dienst beteiligt.

Ein quantisiertes Open-Weights-Modell im GGUF-Format, das bei Bedarf in den Ordner „Documents/models/“ der App heruntergeladen wird. Das Modell ist klein genug, um auf iOS 16+ Geräten mit deaktivierter neuer Architektur ausgeführt zu werden. Eine heuristische Regel-Engine bietet Fallback-Coaching, wenn kein Modell heruntergeladen wird.

Kein externer Modellanbieter empfängt Journaltext zur Inferenz. Das aktuelle Repository kann weiterhin Journal- und Stimmungsdatensätze in einem authentifizierten Firestore-Datensatz pro Benutzer unter einer anonymen oder verknüpften Benutzer-ID mit einem lokalen verschlüsselten Cache speichern. Zeitschrifteninhalte sind von Analysen, Werbung und gemeinsamem Modeltraining ausgeschlossen; In der Datenschutzrichtlinie wird die Firebase-Verarbeitung und der eingeschränkte autorisierte Administratorzugriff erläutert.

Vier Dinge. (1) Liest Ihre Stimmungs-Check-ins und Oberflächenmuster im Laufe der Zeit. (2) Schlägt Atem- oder Meditationsprotokolle basierend auf Ihrem aktuellen Zustand und der Tageszeit vor. (3) Bietet kognitive Verzerrungserkennung im CBT-Stil und Neuformulierung von Gedanken, wenn Sie etwas Schwieriges protokollieren. (4) Erzeugt bei Bedarf Schlafgeschichten für Entspannungssitzungen.

Tagebuchinhalte sind vertraulich. Gesundheitsdaten, insbesondere Daten zur psychischen Gesundheit, gehören zu einer Kategorie, in der die Cloud-Verarbeitung echte Risiken birgt – regulatorische, ethische und persönliche. Wir haben uns für Latenz und ein kleineres Modell gegenüber einer Architektur entschieden, bei der wir Sie bitten müssen, unserer Infrastruktur Ihre privaten Gedanken anzuvertrauen.