Inferencia en el dispositivo · llama.rn

Un entrenador de IA que nunca llama a casa.

Muchas aplicaciones de bienestar utilizan la inferencia en la nube. El entrenador de PulseWave no lo hace: el modelo opcional se ejecuta dentro de la aplicación a través de llama.rn y las indicaciones no se envían a un proveedor de modelo externo. Las entradas de estado de ánimo y los registros de pensamientos permanecen en el dispositivo de forma predeterminada. Si habilita la sincronización, los registros subyacentes también se pueden almacenar en un registro Firestore por usuario bajo los controles descritos en la Política de privacidad; no se utilizan para análisis, capacitación de modelos compartidos o publicidad.

llama.rnTiempo de ejecución local
Sin llamadas APIArquitectura
GGUFFormato del modelo
Compatible con CBTReplantear estilo
  1. Inicio
  2. PulseWave
  3. IA en el dispositivo

Lo que realmente hace el entrenador

Cuatro trabajos, todos restringidos a propósito. El punto no es ser un compañero de chat; se trata de impulsar la intervención correcta en el momento adecuado y hacer que las entradas del diario sean útiles en lugar de solo un registro.

1. Practique el entrenamiento

Cuando completa una sesión de respiración o meditación, el entrenador utiliza su estado de ánimo actual, sus objetivos, la hora del día y el historial de la sesión para sugerir qué hacer a continuación. A veces eso significa un protocolo de seguimiento. A veces significa parar por un día. El sistema utiliza una capa de reglas para decisiones sencillas y el modelo local cuando una respuesta más conversacional es útil.

2. Detección de patrones de diario

El diario es donde la distinción de procesamiento más importa. El entrenador lee entradas recientes de estados de ánimo y registros de pensamientos en el dispositivo; esas entradas no se envían a un proveedor de modelo de IA externo. El repositorio actual aún puede escribir las entradas subyacentes en un registro Firebase autenticado por usuario bajo una ID de usuario anónima o vinculada, como se describe en la Política de Privacidad.

3. Reencuadre del pensamiento al estilo TCC

Cuando registras un pensamiento difícil, el entrenador puede identificar distorsiones cognitivas comunes (catastrofismo, lectura de la mente, pensamiento de todo o nada) y ofrecer encuadres alternativos. Los replanteamientos se presentan como opciones, no como pronunciamientos; el objetivo es ampliar el menú de pensamientos disponibles, no sobrescribir el que tenía.

4. Generación de historias de sueño

Para sesiones de relajación. Le das al entrenador un escenario o tema y este genera una narrativa para los próximos diez a treinta minutos. Como es local, puedes pedir cualquier cosa; nada sobre su solicitud se registra en ningún lugar fuera del dispositivo.

Cómo funciona internamente

llama.rn proporciona enlaces para ejecutar modelos de lenguaje de pesos abiertos cuantificados dentro de React Native, utilizando el mismo motor de inferencia llama.cpp que ha impulsado el movimiento LLM local en macOS, Linux y Windows. PulseWave descarga un modelo pequeño en formato GGUF a pedido en la carpeta de documentos de la aplicación. El modelo es lo suficientemente pequeño como para ejecutarse en iOS 16+ dispositivos con el puente heredado React Native.

Existe un recurso heurístico. Si no ha descargado el modelo, o si la inferencia del modelo falla por algún motivo, un motor basado en reglas proporciona orientación básica. El respaldo es más tonto pero es instantáneo y nunca se rompe.

Por qué lo creamos de esta manera

El camino sencillo habría sido conectar el diario a una API en la nube. Hubiera sido más rápido, inteligente y trivial realizar el envío. No lo hicimos porque los datos son confidenciales, el panorama regulatorio está cambiando y la carga de confianza de decir "sus notas de salud mental son procesadas por nuestro proveedor modelo externo" Parecía incompatible con el tipo de producto que queríamos crear.

La compensación es real. El modelo es más pequeño. Las respuestas son más lentas. No es posible realizar algún razonamiento sofisticado de varios pasos. Creemos que el intercambio vale la pena por lo que es la aplicación (una herramienta personal, no un compañero de chat) y hemos diseñado el trabajo del entrenador en torno a lo que un modelo local pequeño puede hacer bien.

Qué se almacena y dónde

Cómo PulseWave muestra la entrenador

En la barandilla de casa, dentro del diario, nunca dominante.

El entrenador aparece donde es útil y se mantiene apartado en otros lugares. Las sugerencias se encuentran en el riel de acción rápida de inicio. Las leyendas de patrones aparecen en la parte superior del diario cuando hay algo que vale la pena decir. Los replanteamientos de pensamientos aparecen contextualmente después de registrar una entrada difícil. Sin notificaciones, sin empujones, sin rachas de culpa.

  • Sugerencias de inicio adaptables: basadas en la hora del día, el estado de ánimo y el historial reciente.
  • Notas de patrones en el diario: surgieron suavemente, descartable.
  • CBT reformula después de entradas difíciles: opte por entrada.
  • Generador de historias de sueño: en la pantalla de sueño.
  • Heurística respaldo: funciona incluso sin un modelo descargado.
Ver el estado de la versión
PulseWave pantalla de inicio con sugerencias de IA adaptables en la barra de acción rápida

Preguntas frecuentes

En su teléfono. PulseWave usa llama.rn, un tiempo de ejecución de modelo en lenguaje local para React Native, para ejecutar el bucle del modelo directamente en iOS. No hay llamadas API a OpenAI, Anthropic, Google ni a ningún otro proveedor de modelos. No interviene ningún servicio backend en la generación de respuestas.

Un modelo de pesos abiertos cuantificados en el formato GGUF, descargado a pedido en la carpeta Documentos/modelos/ de la aplicación. El modelo es lo suficientemente pequeño como para ejecutarse en dispositivos iOS 16+ con la Nueva Arquitectura deshabilitada. Un motor de reglas heurísticas proporciona asesoramiento alternativo si no se descarga ningún modelo.

Ningún proveedor de modelos externo recibe el texto del diario para realizar inferencias. El repositorio actual aún puede almacenar registros de diario y estado de ánimo en un registro Firestore autenticado por usuario bajo una identificación de usuario anónima o vinculada, con un caché cifrado local. El contenido de la revista está excluido de análisis, publicidad y capacitación de modelos compartidos; la Política de privacidad explica el procesamiento de Firebase y el acceso limitado de administrador autorizado.

Cuatro cosas. (1) Lee los registros de tu estado de ánimo y muestra patrones a lo largo del tiempo. (2) Sugiere protocolos de respiración o meditación según su estado actual y la hora del día. (3) Ofrece identificación de distorsiones cognitivas estilo TCC y replanteos de pensamientos cuando registras algo difícil. (4) Genera historias de sueño a pedido para sesiones de relajación.

El contenido de la revista es confidencial. Los datos de bienestar, especialmente los datos relacionados con la salud mental, se encuentran en una categoría donde el procesamiento en la nube crea un riesgo real: regulatorio, ético y personal. Elegimos la latencia y un modelo más pequeño en lugar de una arquitectura que requiere que le pidamos que confíe sus pensamientos privados en nuestra infraestructura.