Aleph Alpha
Aleph Alphas Kolibri lässt Nutzer den Denkaufwand von keiner bis hoher Stufe wählen
Das kürzlich veröffentlichte Modell Kolibri von Aleph Alpha lässt Nutzer wählen, wie lange es nachdenkt: keine, niedrige, mittlere oder hohe Stufe. Nach Angaben des…
Aleph Alpha überführt sein Parsing-Harness in Parsy, ein Modell mit nur einem Durchlauf
Aleph Alpha hat ein spezialisiertes Modell namens Parsy trainiert, das das eigene mehrstufige, agentische Parsing-Harness ersetzen soll. Laut Unternehmen erreicht Parsy…
Aleph Alpha: Maschinell übersetzte deutsche KI-Benchmarks messen oft das Falsche
Viele deutsche Fassungen gängiger LLM-Benchmarks messen nicht das, wofür die englischen Originale gebaut wurden, sagt Aleph Alpha. Nach der Prüfung von dreißig ins…
Ein einziges Leerzeichen verschiebt Antwortwahrscheinlichkeiten um Größenordnungen, zeigt Aleph Alpha
Wo in einem Multiple-Choice-Prompt ein einzelnes Leerzeichen steht, kann die Wahrscheinlichkeit, die ein Modell der richtigen Antwort zuweist, um mehrere Größenordnungen…
ForschungAleph Alpha erklärt die Expertenbalancierung auf zwei Ebenen hinter seinem MoE-Modell Kolibri 1
Aleph Alpha hat einen Forschungsbeitrag zum Rezept der Lastverteilung veröffentlicht, mit dem Kolibri 1 vortrainiert wurde, ein spärlich aktiviertes…
Aleph Alpha: Bits-per-Byte-Metrik benachteiligt kurze Antworten, PriorBPB soll das beheben
Forschende von Aleph Alpha sagen, dass die weit verbreitete Metrik Bits-per-Byte (BPB) zur Bewertung vortrainierter Sprachmodelle durch die Länge der richtigen Antwort…
Aleph Alpha: Kolibri schlägt größere Konkurrenten bei agentischen RAG-Aufgaben
Aleph Alpha zufolge erreicht sein Open-Weight-Modell Kolibri über sieben agentische RAG-Benchmarks hinweg den besten Durchschnittswert unter den führenden…
ForschungAleph Alpha zeigt am Beispiel von Kolibri, wie Architekturentscheidungen die Kosten von LLMs bestimmen
Aleph Alpha hat einen Forschungsblogbeitrag veröffentlicht, der herleitet, wie zentrale Architekturentscheidungen bei autoregressiven Sprachmodellen die Kosten für…
ForschungAleph Alpha: Durchgesickerte Benchmark-Daten blähten HumanEval-Werte um 45 Punkte auf
Aleph Alpha hat nach eigenen Angaben 1,5 Millionen Dokumente, die Benchmark-Aufgaben zitieren, aus dem Mid-Training-Pool seines Modells Kolibri entfernt. Wurden sie in…
Aleph Alpha veröffentlicht Kolibri: Sprachmodell mit Fokus auf Deutsch für öffentliche Verwaltung und Industrie
Aleph Alpha hat Kolibri veröffentlicht, ein spezialisiertes großes Sprachmodell für geschäftskritische Anwendungen in der öffentlichen Verwaltung und in der Industrie.…
ModelleAleph Alpha veröffentlicht Kolibri: Open-Weight-Modell mit 78 Milliarden Parametern für regulierte Branchen
Aleph Alpha hat Kolibri veröffentlicht, ein englisch-deutsches Mixture-of-Experts-Transformer-Modell mit insgesamt 78B und 3B aktiven Parametern unter der…
ForschungAleph Alpha skaliert Pre-Training eines 30B-A3B-MoE-Modells auf 512 B200-GPUs mit 35,3 % MFU
Aleph Alpha hat einen Forschungsbeitrag veröffentlicht, der erklärt, wie das Pre-Training eines 30B-A3B-Mixture-of-Experts-Modells von 16 auf 512 NVIDIA-B200-GPUs…