Traiga su propio modelo.
Elija cómo se comporta.
Roundtable AI carga cualquier archivo .gguf, por lo que la personalidad, la velocidad y las barreras son tuyas para elegir. Esta es una guía sencilla para elegir uno, desde modelos convencionales equilibrados hasta modelos pequeños más rápidos y ajustes comunitarios con menos restricciones.
Cuando se ejecuta en su Mac, usted elige las reglas
Envío de asistentes en la nube una personalidad y un conjunto de barandillas, decidido para todos. Un modelo local es un archivo que usted controla, lo que significa que el debate puede ser tan medido o tan sin filtrar como desee.
La mayoría de los productos de IA alojados están adaptados para la audiencia más amplia posible: cautelosa, agradable y rápida de rechazar. Ésa es la decisión correcta para un chatbot para el mercado masivo, y exactamente la razón por la cual una mesa redonda de ellos puede parecer un panel en el que todos están de acuerdo en secreto.
Ejecutar un modelo localmente cambia la ecuación. Tú eliges qué modelo se sienta en cada asiento. ¿Quiere un panel cuidadoso y con buen comportamiento? Cargue un modelo de instrucción convencional. ¿Quiere polemistas que realmente adopten posiciones duras y retrocedan sin cobertura? Cargue un ajuste de red con menos barandillas. La elección (y la responsabilidad) recae en usted, en su hardware, sin que nada salga de su Mac.
Un espectro de modelos GGUF
Cada uno de estos se carga de la misma manera en Roundtable AI: descargue el .gguf, apunte la aplicación hacia él y asígnelo a un agente. La única diferencia es cómo se comporta el modelo.
| Nivel | Bueno para | Modelos representativos | Elegir |
|---|---|---|---|
| Equilibrado / convencional | Un panel confiable y educado. El valor predeterminado seguro para la mayoría de las discusiones. | Llama 3.x Instruct, Qwen 2.5 Instruct, Mistral 7B Instruct, Gemma 2 | Predeterminado |
| Más pequeño/más rápido | Estricto RAM, o quieres más agentes a la vez. Más rápido, más liviano y aún capaz. | Qwen 2.5 0.5B–3B, Llama 3.2 1B/3B, Phi-3 Mini | Ligero |
| Menos barandillas (community fine-tunes) |
Debatientes que adoptan posiciones fuertes y rara vez se niegan. Intercambios más picantes y testarudos. | Dolphin (ajustes finos sin censura), "borrado" variantes de Llama / Qwen / Gemma y lanzamientos comunitarios similares | Avanzado |
Encontrar modelos GGUF en Hugging Face
Hugging Face es el centro principal para los modelos comunitarios GGUF. Estos mantenedores y búsquedas son buenos puntos de partida: los enlaces abren Hugging Face directamente.
Convencional GGUF
Compilaciones oficiales y bien cuantificadas de Llama, Qwen, Mistral y Gemma. Busque modelos GGUF de tendencia o busque el Q4_K_M cuanto de un modelo que reconozca.
Sin censura ajustes finos
La línea de ajustes finos sin censura Dolphin de larga duración vive de cómputos cognitivos. Estos están diseñados para ser útiles y directos en lugar de propensos al rechazo.
Menos barreras de seguridad"Abliterado" variantes
La abliteración es una técnica que elimina el comportamiento de rechazo de un modelo manteniendo sus capacidades. Consulte mlabonne para ver el trabajo de referencia, o explore todos los modelos eliminados y sin censura GGUF.
AvanzadoConsejo: no es necesario comprometerse con un nivel. Una excelente sesión de Roundtable AI a menudo los mezcla: un moderador equilibrado mantiene el orden mientras dos polemistas con menos barreras realmente se dedican a ello.
Acerca de los modelos comunitarios
Modelos de terceros, tu responsabilidad
Los modelos de comunidad y los enlaces anteriores son no creado, afiliado ni respaldado por HighRoad Software. Los modelos sin censura y eliminados han reducido o eliminado el filtrado de seguridad, lo que significa que pueden producir contenido que los modelos convencionales rechazarían. Eres responsable de cómo los usas, de cumplir con la licencia de cada modelo y de seguir las leyes que se aplican en tu lugar de residencia. Roundtable AI simplemente carga el archivo .gguf que elija; no aloja, modifica ni distribuye estos modelos.
Elija un modelo y comience una mesa redonda
Roundtable AI es gratuito en Mac. Descargue cualquier modelo GGUF, apunte la aplicación hacia él y siéntelo en la mesa en menos de un minuto.