Gemma 4 31B (Q8_0). Lokales Modell ohne Internetzugang. Ich verwende kaum LLMs aus diversen Gründen aber mich interessieren sie durchaus technisch. Ich muss sagen, dass mich Gemma 4 derzeit am meisten überzeugt. Es schleimt zwar unerträglich wie alle Google Modelle aber im Vergleich zu anderen Modellen ist es oft relativ kompakt oder gar präzise in der Antwort. Andere Modelle bullshitten deutlich mehr. Das zeigt auch diese Antwort. (im Reasoning gab es einen Fehler da schriebe es was von zwei t in Sonntag aber das Ausgabeergebnis ist fehlerfrei.
Kein Wunder, dass es so ein schlechtes Ergebnis gibt. Du hast vergessen “Bitte nicht halluzinieren!” in den Prompt zu schreiben!
Einmal mehr sitzt das Problem vor dem Bildschirm!1elf
Hab es auch ausprobiert und es wurde Kunst.
Aber wie viele H’s hat Habicht?
Das K in KI steht für kaputt.
Ich mag die englische Altenativdefinition: “Actually Indians”.
Tja Schachmatt liebe Konservativen, euer Maschinengott hat ja zur 4 Tage Woche gesagt!
Aber leider nur 3 einzelne freie Tage. Weniger zersplittert wäre mir lieber.
Also Le Mistral Vibe ist direkt gestorben:
Ja, Le Chat (Vibe) is grade kaputt.
Bei mir geht’s wieder und gibt sogar die richtige Antwort :)
Bei mir auch, aber auch bei anderen Fragen, scheint gerade kaputt
Offensichtlich hat Dienstag zwei t’s und nur Mittwoch hat keine
edit: liegt wahrscheinlich daran, dass er einen Facebook Post als ‘Quelle’ gefunden hat wo es Middwoch heißt
Na wenn es in einer x-beliebigen Pfostierung auf Fratzenbuch steht, muss es ja stimmen!
Eines muss Mann dem Klapperer lassen: die Quellenauswahl ist nicht zu beanstanden.
😁
Und dann kommen immer wieder Leute die uns erklären warum LLMs Schwierigkeiten mit sowas haben, als wenn das dadurch besser würde.
Ist es definitiv. Wenn man weiß, wieso etwas nicht funktioniert, dann kann man es versuchen zu reparieren und das wird auch geschehen. KI nervt und ich hasse es, aber ich glaube, wir müssen uns damit leider abfinden.
Kommt drauf an ob prinzipbedingtes Problem ist oder nicht, bei ersteren kann man nur versuchen die “KI” zu überreden nicht die Antworten zu geben die man nicht haben will (“don’t talk about goblins”) oder für Einzelfälle die richtige Antwort vorgeben (jede virale falsche Antwort wie “how many r in strawberry” die dann richtig beantwortet wird, aber keine generelle Lösung für andere Fragen der gleichen Klasse bietet).
🔔🔔🔔
Jetzt will ich wissen, weshalb die damit Probleme haben! :D
LLMs arbeiten nicht mit Buchstaben, sondern mit Tokens. Theoretisch könnte man Token=Buchstabe definieren, das wäre aber sehr ineffizient, daher macht man das nicht. Praktisch sind Tokens eher Silben oder Wortteile, also zb „Donners““Tag“ wären dann zwei Tokens. Jeder Token wird durch eine Zahl repräsentiert und dann wird wild gerechnet. Aber wegen der Tokengeschichte kann man da rechnen wie man will, die Buchstaben kennt das LLM nicht und kann daher damit auch nicht wirklich arbeiten. Daher wird halt ein plausibler Text generiert der halt in diesem Fall nichts mit der korrekten Antwort zu tun hat.
Was LLMs ausgeben ist nicht die Antwort auf die Frage “Welche Wochentage haben den Buchstaben T?” sondern “Wie könnte eine Antwort auf die Frage ‘Welche Wochentage haben den Buchstaben T?’ aussehen?”
Man kann dann noch Details rumerklären wie dass die mit Tokens arbeiten und keine Wörter oder Buchstaben kennen, aber das grundsätzliche Problem ist dass hinter der Ausgabe keine echte Intelligenz steckt, sondern Statistik¹ beruhend auf dem Trainingsmaterial die durch kompetent wirkende Sprachproduktion intelligent wirkt.
¹ Sehr komplexe Statistik, und mehr Ebenen von Komplexität drüber die versuchen die offensichtlichen Probleme zu kaschieren.
Nein nein, du hast es nur falsch verwendet! Wenn du fünf weitere LLMs mit folgendem Satz als Workflow einstellst, sinkt die Chance eines Fehlers um 2%!
Wie Artikel von Effizienz sprechen, ist mir schleierhaft. Du brauchst ein ganzes Team der Bullshitmaschinerie in der Hoffnung, einer davon produziert Shakespeare.
deleted by creator
(͡•_ ͡• )
Gute Antwort! Welches Model hast du da verwendet?
Welches Modell ist das?
Ich habe es gerade mit Copilot probiert und da waren auch alle sieben, schön in Reihenfolge. Inkl. korrekter Internetquelle zu Wochentage auf Deutsch. Mich überrascht, dass da Claude Sonnet 4.6 soviel schlechter ist.
Opus 4.8, Sonnet 4.6 kriegt es nicht hin:
Ich muss das mal lokal ausprobieren: Gemma4 31B, Qwen 3.6 27B und GPT-OSS 120B
Es würde mich interessieren wie die im Vergleich zu Claude abschneiden.
So gut, dass es noch die deutsche Übersetzung in Klammern dahinter geschrieben hat E>
Das ist gemein, die KI so zu überfordern!
