Apportez votre propre modèle.
Choisissez son comportement.
Roundtable AI charge n'importe quel fichier .gguf — donc la personnalité, la vitesse et les garde-corps sont à vous de choisir. Il s'agit d'un guide simple pour en choisir un, des modèles traditionnels équilibrés aux petits modèles plus rapides en passant par les ajustements communautaires avec moins de restrictions.
Lorsqu'elle s'exécute sur votre Mac, vous choisissez les règles
Les assistants cloud offrent une personnalité et un ensemble de garde-fous, décidés pour chacun. Un modèle local est un fichier que vous contrôlez, ce qui signifie que le débat peut être aussi mesuré ou non filtré que vous le souhaitez.
La plupart des produits d'IA hébergés sont adaptés au public le plus large possible : prudent, agréable et prompt à refuser. C'est la bonne raison pour un chatbot grand public - et c'est exactement pourquoi une table ronde peut ressembler à un panel où tous sont secrètement d'accord.
L'exécution d'un modèle localement modifie l'équation. Vous choisissez quel modèle occupe chaque siège. Envie d’un panel prudent et bien élevé ? Chargez un modèle d’instruction grand public. Vous voulez des débatteurs qui prennent réellement des positions fermes et repoussent sans se couvrir ? Chargez un réglage précis de la communauté avec moins de garde-corps. Le choix — et la responsabilité — vous appartient, sur votre matériel, et rien ne quitte votre Mac.
Une gamme de modèles GGUF
Chacun d'entre eux se charge de la même manière dans Roundtable AI : téléchargez le .gguf, pointez l'application dessus, attribuez-la à un agent. La seule différence réside dans le comportement du modèle.
| Niveau | Convient aux | Modèles représentatifs | Choisir |
|---|---|---|---|
| Équilibré / grand public | Un panel fiable et bien élevé. La valeur par défaut sûre pour la plupart des discussions. | Llama 3.x Instruct, Qwen 2.5 Instruct, Mistral 7B Instruct, Gemma 2 | Par défaut |
| Plus petit/plus rapide | Serré activé RAM, ou souhaitez plus d'agents à la fois. Plus rapide, plus léger, toujours performant. | Qwen 2.5 0.5B–3B, Llama 3.2 1B/3B, Phi-3 Mini | Léger |
| Moins de garde-corps (ajustements de la communauté) |
Des débatteurs qui prennent des positions fermes et refusent rarement. Des échanges plus épicés et plus opiniâtres. | Dolphin (mise au point non censurée), "ablitéré" variantes de Llama / Qwen / Gemma et versions communautaires similaires | Avancé |
Trouver des modèles GGUF sur Hugging Face
Hugging Face est la plaque tournante principale des modèles communautaires GGUF. Ces mainteneurs et ces recherches sont de bons points de départ : les liens ouvrent directement Hugging Face.
Mainstream GGUF
Builds officielles et bien quantifiées de Llama, Qwen, Mistral et Gemma. Recherchez des modèles GGUF tendances ou recherchez le Q4_K_M quantitatif d'un modèle que vous reconnaissez.
Ajustements précis non censurés
La longue gamme Dolphin de longue durée d'ajustements précis non censurés calculs cognitifs. Ceux-ci sont conçus pour être utiles et directs plutôt que sujets aux refus.
Moins de garde-fous"Ablitéré" ; variantes
L'ablitération est une technique qui supprime le comportement de refus d'un modèle tout en conservant ses capacités. Voir mlabonne pour l'ouvrage de référence, ou parcourez tous les modèles ablitérés et non censurés GGUF.
AvancéConseil : vous n'êtes pas obligé de vous engager sur un seul niveau. Une bonne Roundtable AI les mélange souvent : un modérateur équilibré maintient l'ordre tandis que deux débatteurs sans garde-fou s'y attaquent.
À propos des modèles communautaires
Modèles tiers, votre responsabilité
Les modèles de communauté et les liens ci-dessus ne sont ni créés, affiliés ou approuvés par HighRoad Software. Les modèles non censurés et ablitérés ont réduit ou supprimé le filtrage de sécurité, ce qui signifie qu'ils peuvent produire un contenu que les modèles traditionnels refuseraient. Vous êtes responsable de la façon dont vous les utilisez, du respect de la licence de chaque modèle et du respect des lois en vigueur là où vous vivez. Roundtable AI charge simplement le fichier .gguf que vous choisissez : il n'héberge, ne modifie ni ne distribue ces modèles.
Choisissez un modèle et démarrez une table ronde
Roundtable AI est gratuit le Mac. Téléchargez n'importe quel modèle GGUF, pointez l'application dessus et installez-le à table en moins d'une minute.