HeadlinesBriefing HeadlinesBriefing.com

Qwen3-4B feinabgestimmt, um KI-Schreibmuster abzulegen

Hacker News •
×

Ein kleines offenes Modell, Qwen3-4B-Instruct, wurde feinabgestimmt, um ohne die Gewohnheiten zu schreiben, die KI-generierten Text verraten. Veröffentlicht als qwen3-4b-deslop, vermeidet es Gedankenstriche, Konstruktionen wie "nicht X, sondern Y" und Dreierlisten und benötigt keinen Systemprompt. Es lässt sich lokal mit Ollama ausführen, über den Befehl ollama run hf.co/erikkannike/qwen3-4b-deslop-v4-GGUF, ein 2,5 GB großer Download im Format Q4_K_M.

Bei 40 Prompts, die das Modell während des Trainings nie gesehen hat, sank der Slop-Wert von 121 auf 12,5 pro 1000 Wörter, und 68 % der Antworten liegen im Bereich menschlichen Schreibens. Gedankenstriche sanken von 20,5 pro 1000 Wörter auf null. Das Modell beantwortete weiterhin 30 von 30 Faktenfragen korrekt und entspricht dem verlangten Genre und der geforderten Länge genauso oft wie das Original.

Eine Zwischenversion erreichte 9,9, schrieb aber schlecht: Sie produzierte Meinungsbeiträge ohne Meinung, erfundene Studien und die Angewohnheit, Sätze mit ", which" zu verbinden. Um das zu beheben, wurde ein zweiter Filter ergänzt, der prüft, ob die Antworten zur Anfrage passen. Der resultierende Stil ist so schlicht, dass er fast flach wirkt, und das Modell erfindet nach wie vor Namen und Orte.

Die Arbeit wurde auf einem Mac Book Air mit 161 Trainingsantworten erledigt. Der Autor sagt, die Methode hänge nicht von der Modellgröße ab, und der nächste Schritt sei, sie auf größere Modelle anzuwenden.

Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing