Inferentie op apparaat · llama.rn

Een AI-coach die nooit naar huis belt.

Veel wellness-apps maken gebruik van cloud-inferentie. De coach van PulseWave'niet: het optionele model draait in de app via llama.rn en er worden geen aanwijzingen naar een externe modelaanbieder gestuurd. Stemmingsinvoer en gedachteregistraties blijven standaard op het apparaat staan. Als u synchronisatie inschakelt, kunnen de onderliggende records ook worden opgeslagen in een Firestore-record per gebruiker onder de controles die worden beschreven in het Privacybeleid; ze worden niet gebruikt voor analyses, training met gedeelde modellen of advertenties.

llama.rnLokale runtime
Geen API-aanroepenArchitectuur
GGUFModelindeling
CBT-bewustHerkader stijl
  1. Home
  2. PulseWave
  3. AI op apparaat

Wat de coach feitelijk doet

Vier taken, allemaal met opzet beperkt gehouden. Het gaat er niet om een ​​chatpartner te zijn; het gaat erom de juiste interventie op het juiste moment te ondernemen en journaalboekingen nuttig te maken in plaats van alleen maar een record.

1. Oefen met coaching

Wanneer u een ademhalings- of meditatiesessie voltooit, gebruikt de coach uw huidige stemmingsinvoer, doelen, tijdstip en sessiegeschiedenis om suggesties te doen voor wat u vervolgens moet doen. Soms betekent dat een vervolgprotocol. Soms betekent het dat je een dagje moet stoppen. Het systeem gebruikt een regellaag voor duidelijke beslissingen en het lokale model wanneer een meer gemoedelijke reactie nuttig is.

2. Detectie van journaalpatronen

Het journaal is waar het verwerkingsonderscheid het belangrijkst is. De coach leest recente stemmings- en gedachteverslagen op het apparaat; die invoer wordt niet naar een externe AI-modelaanbieder gestuurd. De huidige opslagplaats kan de onderliggende gegevens nog steeds naar een geverifieerde Firebase-record per gebruiker schrijven onder een anonieme of gekoppelde gebruikers-ID, zoals beschreven in het Privacybeleid.

3. Herkaderen van gedachten in CGT-stijl

Wanneer u een moeilijke gedachte registreert, kan de coach veelvoorkomende cognitieve vervormingen identificeren (catastroferen, gedachten lezen, alles-of-niets-denken) en alternatieve kaders aanbieden. De reframes worden gepresenteerd als opties, niet als uitspraken. Het gaat erom het menu met beschikbare gedachten uit te breiden, niet om het menu dat u had te overschrijven.

4. Generatie van slaapverhalen

Voor ontspanningssessies. Je geeft de coach een setting of thema en er ontstaat een verhaal voor de komende tien tot dertig minuten. Omdat het lokaal is, kun je alles vragen; niets over uw verzoek wordt ergens buiten het apparaat geregistreerd.

Hoe het onder de motorkap werkt

llama.rn biedt bindingen voor het uitvoeren van gekwantiseerde open-weights-taalmodellen in React Native, met behulp van dezelfde llama.cpp-inferentie-engine die de lokale-LLM-beweging heeft aangestuurd op macOS, Linux en Windows. PulseWave downloadt op verzoek een klein model in GGUF-formaat naar de documentenmap van de app. Het model is klein genoeg om te draaien op iOS 16+ apparaten met de React Native legacy bridge.

Er is een heuristische terugval. Als u het model niet hebt gedownload, of als modelinferentie om welke reden dan ook mislukt, biedt een op regels gebaseerde engine basiscoaching. De terugval is dommer, maar is direct beschikbaar en gaat nooit kapot.

Waarom we het op deze manier hebben gebouwd

Het eenvoudige pad zou zijn geweest om het journaal aan te sluiten op een cloud-API. Het zou sneller, slimmer en triviaal zijn geweest om te verzenden. Dat hebben we niet gedaan, omdat de gegevens gevoelig zijn, het regelgevingslandschap aan het veranderen is en de vertrouwenslast van het zeggen ‘uw aantekeningen over de geestelijke gezondheidszorg worden verwerkt door onze externe modelaanbieder’. voelde ons onverenigbaar met het soort product dat we wilden bouwen.

De afweging is reëel. Het model is kleiner. De reacties zijn langzamer. Sommige geavanceerde meerstapsredeneringen zijn niet mogelijk. We denken dat de transactie de moeite waard is vanwege wat de app is (een persoonlijk hulpmiddel, geen chathulpmiddel) en we hebben de taak van de coach ontworpen rond wat een klein lokaal model goed kan.

Wat wordt opgeslagen en waar

Hoe PulseWave de coach opduikt

In het thuisspoor, in het dagboek, nooit aanmatigend.

De coach verschijnt waar hij nuttig is en blijft elders uit de weg. Suggesties staan ​​live op de snelle actierail voor thuis. Patroonaanduidingen verschijnen bovenaan het dagboek als er iets de moeite waard is om te zeggen. Gedachte-herframes verschijnen contextueel nadat u een moeilijke invoer heeft ingevoerd. Geen meldingen, geen duwtjes, geen schuldgevoelens.

  • Adaptieve huissuggesties — gebaseerd op het tijdstip van de dag, stemming en recente geschiedenis.
  • Patroon-highlights in het dagboek — zijn vriendelijk en afwijsbaar weergegeven.
  • CBT herkadert na moeilijke invoer — meld u aan per invoer.
  • Generator van slaapverhalen — op het slaapscherm.
  • Heuristische fallback — werkt zelfs zonder een gedownload model.
Releasestatus bekijken
PulseWave startscherm met adaptieve AI-suggesties in de snelle actierail

Veelgestelde vragen

Op uw telefoon. PulseWave gebruikt llama.rn — een runtime van een lokaal taalmodel voor React Native — om de modellus rechtstreeks op iOS uit te voeren. Er zijn geen API-aanroepen naar OpenAI, Anthropic, Google of een andere modelaanbieder. Er is geen backend-service betrokken bij het genereren van antwoorden.

Een gekwantiseerd open-weights-model in het GGUF-formaat, dat op verzoek kan worden gedownload naar de map Documents/models/ van de app. Het model is klein genoeg om te draaien op iOS 16+ apparaten met de nieuwe architectuur uitgeschakeld. Een heuristische regelengine biedt fallback-coaching als er geen model wordt gedownload.

Geen enkele externe modelaanbieder ontvangt journaaltekst voor gevolgtrekking. De huidige repository kan nog steeds dagboek- en stemmingsrecords opslaan in een geauthenticeerde Firestore-record per gebruiker onder een anonieme of gekoppelde gebruikers-ID, met een lokaal gecodeerde cache. Tijdschriftinhoud is uitgesloten van analyses, advertenties en gedeelde modeltraining; In het privacybeleid wordt de verwerking van Firebase en de beperkte geautoriseerde beheerderstoegang uitgelegd.

Vier dingen. (1) Leest uw stemmingscheck-ins en brengt patronen in de loop van de tijd aan het licht. (2) Stelt ademhalings- of meditatieprotocollen voor op basis van uw huidige toestand en het tijdstip van de dag. (3) Biedt identificatie van cognitieve vervormingen in CGT-stijl en herkadering van gedachten wanneer u iets moeilijks registreert. (4) Genereert op verzoek slaapverhalen voor ontspanningssessies.

Journaalinhoud is gevoelig. Wellnessgegevens, vooral gegevens die verband houden met de geestelijke gezondheidszorg, bevinden zich in een categorie waarin cloudverwerking reële risico's met zich meebrengt: regelgevend, ethisch en persoonlijk. We hebben latentie en een kleiner model gekozen boven een architectuur die van ons vereist dat u onze infrastructuur vertrouwt met uw privégedachten.