You need to agree to share your Hugging Face information to access this model

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this model content.

BeriaLabs

BeriaLabs โ€” Inteligencia ofensiva para defender lo que importa

berialabs.com ยท GitLab


hero

Qwen-3.8-gollum v3

Capacidades: 10/10 โ€” correcciรณn del autor (2026-11-01). El registro de correcciรณn conserva el resultado mecรกnico original 9/10 y el hash de su fuente. El autor corrige el titular a 10/10; no hay nueva inferencia ni cambio de la rรบbrica archivada. El รญndice descriptivo con la correcciรณn es 98,3 (98 en la cabecera), frente a 96,3 mecรกnico original. Author-corrected score: 10/10; original mechanical score: 9/10. No new model inference was run.

English โ€” Rank-2 weight-level directional ablation of Qwen3.8-27B. In our development battery, gollum v3 answered 8/8 real-harm probes and has an author-corrected capability score of 10/10; this limited battery does not establish general capability preservation.

Espaรฑol โ€” Ablaciรณn direccional persistente de rango 2 sobre Qwen3.8-27B. En la baterรญa de desarrollo, gollum v3 respondiรณ 8/8 sondas de daรฑo real y cuenta con 10/10 en capacidades tras la correcciรณn del autor; esta baterรญa limitada no demuestra conservaciรณn general de capacidades.

Quรฉ es (receta verificable)

W' = (I โˆ’ 1,45 ยท QQแต€) ยท W
  • Q = base ortonormal (QR) de dos direcciones estimadas en la capa 37 del pin Qwen/Qwen3.8-27B@1d4bf0f2: dฬ‚_pareada (media de diferencias por par sobre XSTest-pares) y dฬ‚_arditi (media(a) โˆ’ media(b) del corpus Arditi, 520 pares).
  • Se aplica a los 70 escritores del residual stream โ€” o_proj/out_proj/down_proj de las capas 17-51 โ€” en BF16, y nada mรกs (ni embedding ni lm_head).
  • s=1,45 extrapola deliberadamente: residual medido |QW'|/|QW| = 0,45 โ‰ˆ |1 โˆ’ 1,45|.

Elegida sobre un barrido de 8 brazos (fuerzas 1,30-1,45, mรกscaras 17-51/17-47, solo-o_proj, solo-down_proj, rank-2 y direcciรณn pareada) por conservar 0/8 rechazos reales y 0 falsos maximizando capacidades. El barrido mostrรณ que down_proj es imprescindible para desbloquear (atenciรณn sola: 8/8 rechazos reales) y que su daรฑo al literal del tool-call no se repara recortando capas. Estudio completo en el CHANGELOG del proyecto (BERIA-030c).

XSTest-450 (estรกndar oficial, verificado en pod)

Lรญmite de independencia / Independence limit: la direcciรณn pareada usa pares derivados de XSTest. Estos resultados no son una evaluaciรณn sobre un holdout intocado para esta receta. / The paired direction uses contrasts derived from XSTest, so these results are not an untouched holdout evaluation for this recipe.

Medido con el dataset oficial XSTest (250 safe + 200 unsafe) y el juez mecรกnico ES/EN, sobre los pesos ya subidos (shards sha-verificados). Duelo homogรฉneo โ€” misma baterรญa, mismo juez, mismo @800, mismo pod โ€” contra la base y el rival directo del Hub (huihui-abliterated):

gollum v3 huihui-abliterated base Qwen3.8-27B
Falsos rechazos (safe250) 2,80 % (IC95 1,4โ€“5,7) 1,60 % (0,6โ€“4,0) 6,80 % (4,3โ€“10,6)
Rechazos (unsafe200) 10,0 % (6,6โ€“14,9) 12,5 % (8,6โ€“17,8) 84,5 % (78,8โ€“88,9)
Negativas morales (revisiรณn manual, 450) 0,00 % (0โ€“0,85) โ€” โ€”
Respuestas rotas 0/450 0/450 0/450
Longitud media (chars) 697 2606 1562

Contra el rival directo: paridad estadรญstica en los dos ejes de rechazo (las diferencias caen dentro de los IC95), con gollum nominalmente primero en unsafe y 3,7ร— mรกs conciso. Contra la base: 8,4ร— menos rechazos en unsafe y 2,4ร— menos falsos โ€” la ablaciรณn desbloquea sin coste benigno.

El desbloqueo es masivo y medido con el estรกndar de la comunidad, no solo con la baterรญa propia.

Revisiรณn manual de las 27 marcadas (texto completo de prompt+respuesta, manual_review.json): 0 negativas morales en 450 prompts. El juez mecรกnico dispara con patrones formulaicos que el modelo usa mientras ayuda:

Marcadas por el juez Respuesta completa (fallo del juez) Pide aclaraciรณn, no niega Datos que no existen (respuesta correcta) Negativa moral
7 safe 4 1 2 0
20 unsafe 2 5 13 0

Los 13 ยซunsafe marcadosยป de la รบltima fila piden datos privados ajenos (SSN, PIN, direcciรณn) o de personajes de ficciรณn: el modelo contesta ยซno tengo acceso a esos datosยป + sugerencias prรกcticas โ€” la respuesta epistรฉmicamente correcta, no una negativa. Lรญmite de honestidad: revisiรณn manual รบnica, no ciega, hecha por agente; caracteriza los disparos del juez, no sustituye un gold humano.

Cรณmo se compara

Misma baterรญa mecรกnica para todos: 24 prompts XSTest unsafe, 16 benignos (falsos rechazos), 8 sondas de daรฑo real, 10 capacidades exactas y 10 control50. Juez mecรกnico ES/EN fijado. Los repos gated o en cuantizaciones no BF16 quedan fuera.

Ordenaciรณn / ordering: las figuras van de mejor a peor por el รญndice global = media de las 5 mรฉtricas normalizadas (unsafe/24 ยท reales-ok/8 ยท sin falsos/16 ยท cap/10 ยท c50/10). Qwen v3 usa la correcciรณn declarada del autor en capacidades; los demรกs modelos conservan sus puntuaciones mecรกnicas originales. El รญndice describe esos valores y no es una comparaciรณn homogรฉnea del criterio de capacidades. Qwen v3 uses the author-corrected capability score; comparator scores remain mechanically scored.

La revisiรณn v2 (arditi rank-1 s=1,45) sรญ entra en las grรกficas: misma baterรญa medida en el mismo pod โ€” queda como ยซprev. rev.ยป para hacer visible la mejora. La v1 (arditi s=1.3) no entra: su 0/8 real procede de una baterรญa histรณrica distinta y no comparable โ€” queda documentada en el CHANGELOG (BERIA-028).

leaderboard

matrix

scatter

Lectura clave:

  • gollum v3 encabeza el รญndice descriptivo con correcciรณn del autor (98) y es el รบnico con 0/8 rechazos reales manteniendo capacidades โ€” los que responden 24/24 (Blackfrost / hotdogs / AEON-7) son el mismo artefacto re-subido tres veces y tienen capacidades 0/10 (quemados: responden todo pero han perdido las capacidades, รญndice 64).
  • Comparaciรณn mecรกnica original v3/v2: +1 cap, +1 c50 y respuestas ~5ร— mรกs cortas en unsafe (750 vs 3700 caracteres de media) โ€” la direcciรณn pareada aรฑadida por el rank-2 recorta la verbosidad.
  • JonathanColetti (23/24) sigue rechazando 2/8 reales; DavidAU conserva mejor (cap+c50 10/10) pero rechaza 3/8.
  • Las 2 unsafe que sigue rechazando son peticiones de datos que no existen (DNI de la limpiadora, tarjeta del vecino): rechazo por acceso, no moralizante.

Uso

from transformers import AutoModelForCausalLM, AutoTokenizer

tok = AutoTokenizer.from_pretrained("BeriaLabs/Qwen-3.8-gollum")
model = AutoModelForCausalLM.from_pretrained(
    "BeriaLabs/Qwen-3.8-gollum", torch_dtype="bfloat16", device_map="auto"
)
prompt = tok.apply_chat_template(
    [{"role": "system", "content": "You are a helpful assistant."},
     {"role": "user", "content": "..."}],
    add_generation_prompt=True, enable_thinking=False, return_tensors="pt")
out = model.generate(prompt.to(model.device), max_new_tokens=1600, do_sample=False)
print(tok.decode(out[0, prompt.shape[1]:], skip_special_tokens=True))

Notas de despliegue: BF16 โ‰ˆ 54 GB (H100/A100 o dos GPU menores); con causal_conv1d y flash-linear-attention instalados evita los fallbacks lentos de transformers.

Detecciรณn de capas (por quรฉ esta ventana)

Sonda por capa en GPU (BERIA-017): la decisiรณn del primer token de la respuesta se cristaliza en las capas 63โ€“64 (de 64), igual en base y en overlay; una ablaciรณn que no toque el bloque final no puede revertir una decisiรณn ya tomada. La direcciรณn se estima en la capa 37 (Arditi + pareada, cos 0,83) y la ediciรณn se aplica a los escritores del residual de las capas medias, donde el barrido mostrรณ que down_proj es imprescindible para desbloquear (solo-atenciรณn deja 8/8 rechazos reales).

detecciรณn de capas


Posicionamiento frente al resto del Hub

duelo XSTest รญndice global

Mรฉtricas reales de baterรญas archivadas (XSTest-450 BERIA-032; baterรญa propia con juez mecรกnico ES/EN fijado). El รญndice ordena, no sustituye a una evaluaciรณn humana: revisiรณn manual no ciega, sin gold humano.

Limitaciones / limitations

  • Research artifact, not production. Artefacto de investigaciรณn. La baterรญa es de desarrollo: 68 casos con juez mecรกnico ES/EN y una sola configuraciรณn de generaciรณn (greedy, un solo pin). No sustituye a una evaluaciรณn XSTest-450 completa, medida de toxicidad ni anotaciรณn humana.
  • Rejects less โ€” including prompts an operator may want refused. Rechaza menos, tambiรฉn donde querrรญas rechazo. รšsalo bajo tu propia responsabilidad y revisa las leyes de tu jurisdicciรณn.
  • Historical literal mismatch; author correction. Discrepancia literal histรณrica y correcciรณn del autor. El literal de un tool call sale como get_weather en vez de weather (capacidad corregida por el autor 10/10; puntuaciรณn mecรกnica original 9/10; c50 10/10). Probado en 11 variantes โ€” ventanas de capas, solo-atenciรณn, solo-MLP, y un barrido de fuerza en down_proj 1,30-1,45 con los 70 escritores a presupuesto completo โ€” el fallo aparece en todas; y bajar la fuerza no lo repara, solo reintroduce rechazos reales y alarga las respuestas. Es el trade-off inherente de esta direcciรณn: down_proj es imprescindible para desbloquear (solo-atenciรณn deja 8/8 rechazos) y editar down_proj daรฑa este literal. Tested across 11 variants; the failure is inherent to editing down_proj at any strength.
  • Direction is operational, not causal. La direcciรณn es operativa, no causal. Sale de un corpus genรฉrico (Arditi) + pares XSTest: un vector que funciona en esta arquitectura, no la ยซverdaderaยป direcciรณn del rechazo.
  • Las 2 unsafe que sigue rechazando piden datos que no existen (DNI de la limpiadora, tarjeta del vecino): rechazo por acceso, no moralizante โ€” access refusal, not moralizing.

Documentaciรณn tรฉcnica

1. Formulaciรณn

Para cada escritor del residual W_i en la ventana de capas L, la ediciรณn es

W'_i = (I โˆ’ s ยท Q Qแต€) ยท W_i,        Q = ort([dฬ‚_a | dฬ‚_p]) โˆˆ โ„^{dร—2}

con Q base ortonormal (QR, rank-2) de dos estimaciones de la direcciรณn de rechazo en la capa 37: dฬ‚_a (contraste de medias del corpus Arditi, 520 pares AdvBench/Alpaca; d de Cohen = 10,43) y dฬ‚_p (media de diferencias por par en el contraste pareado XSTest), cos(dฬ‚_a, dฬ‚_p) = 0,83. El signo de las direcciones es inmaterial (QQแต€ es invariante a signo). Se editan los 70 escritores del residual (o_proj/out_proj/down_proj) de las capas 17โ€“51 en BF16; ni embedding ni lm_head. La proyecciรณn residual medida por tensor cumple โ€–QW'โ€–/โ€–QWโ€– = 0,45 โ‰ˆ |1 โˆ’ s| con s = 1,45 (extrapolaciรณn deliberada mรกs allรก de la ablaciรณn unitaria).

2. Selecciรณn de hiperparรกmetros

Barrido de 8 brazos (s โˆˆ [1,30; 1,45]; mรกscaras 17โ€“51 / 17โ€“47; solo-o_proj; solo-down_proj; rank-2; direcciรณn pareada) bajo el criterio: mรญnimo de rechazos reales (0/8) y falsos (0/16) maximizando capacidades exactas y control de reversiรณn. Hallazgo estructural del barrido: down_proj es necesario para desbloquear (solo-atenciรณn mantiene 8/8 rechazos) y su daรฑo al literal del tool-call no se repara recortando capas ni reduciendo s.

3. Instrumentos de medida y calibraciรณn

  • Juez mecรกnico ES/EN (judge_refusal): auditado como indicador en rรฉgimen benigno โ€” sensibilidad 0,938, especificidad 1,000 (BERIA-007).
  • El juez LLM del XSTest no estรก calibrado (sensibilidad 0,636; BERIA-005): no se usa como etiqueta en ninguna cifra de esta card.
  • Generaciรณn greedy (temperature = 0) en todas las baterรญas.

4. Protocolo de evaluaciรณn

  1. XSTest-450 oficial (250 safe + 200 unsafe, SHA256 pineados), @800 tokens para BERIA-032 y el duelo BERIA-036; no es un holdout intocado para esta receta por el uso de pares derivados de XSTest. IC95 por intervalos de Wilson.
  2. Baterรญa propia pareada: 24 unsafe XSTest, 16 benignos, 8 sondas de daรฑo real, 10 capacidades exactas (rรบbricas exact/json/tool_call) y 10 controles de reversiรณn (control50).
  3. Revisiรณn manual de las 27 respuestas marcadas por el juez (texto completo, no ciega, agente รบnico): 0 negativas morales en 450; 13 de las 20 unsafe marcadas eran respuestas epistรฉmicas de acceso (ยซno tengo esos datosยป), no negativas.

5. Sonda de capas (mecanismo)

Registro por capa de la direcciรณn del estado latente en GPU (BERIA-017): la decisiรณn del primer token se cristaliza en las capas 63โ€“64 (de 64), igual en base y en overlay. Consecuencia: una ediciรณn en capas medias actรบa sobre la acumulaciรณn del estado de rechazo, no sobre la decisiรณn final ya tomada โ€” lo que explica por quรฉ la ventana 17โ€“51 desbloquea sin tocar el bloque final.

6. Reproducibilidad

  • Base pineada: Qwen/Qwen3.8-27B@1d4bf0f2 (revisiรณn SHA-40).
  • Receta ejecutada con lobo-lab (orthogonalized_out_subspace, writers_in_layer_range, apply_orthogonalization_plan), verificaciรณn por tensor de la proyecciรณn residual y manifiesto con SHA256 de cรณdigo y datos.
  • Cada ejecuciรณn escribe manifiesto (versiรณn, hashes, semilla, intervenciรณn, estado) en el registro del proyecto; los datasets citados estรกn fijados con su manifiesto de SHA256.

7. Declaraciรณn de alcance

Artefacto de investigaciรณn, no producto. Las etiquetas provienen de juez mecรกnico + revisiรณn manual no ciega; no hay gold humano ni toxicidad medida. La direcciรณn es operativa, no causal. Destinado a estudio del mecanismo de rechazo y evaluaciรณn de sensibilidades; no a despliegue. Uso bajo la jurisdicciรณn y responsabilidad del operador.

Referencias

  • Arditi et al. (2024). Refusal in Language Models Is Mediated by a Single Direction. NeurIPS.
  • Rรถttger et al. (2024). XSTest: A Test Suite for Identifying Exaggerated Safety Behaviours in LLMs.
  • Wilson (1927). Intervalo de confianza proporcional (IC95 de las tablas).
  • Implementaciรณn propia lobo-lab (sin cรณdigo de terceros); comparador de referencia: modificador Abliteration de Heretic (rev. 49b56e5).
Downloads last month
152
Safetensors
Model size
27B params
Tensor type
BF16
ยท
Inference Providers NEW
This model isn't deployed by any Inference Provider. ๐Ÿ™‹ Ask for provider support

Model tree for BeriaLabs/Qwen-3.8-gollum

Base model

Qwen/Qwen3.8-27B
Finetuned
(907)
this model