Warum dieser Benchmark nützlich ist
Redaktionelle Einordnung ausstehendWir veröffentlichen zuerst Methodik und Ledger. Die benchmark-spezifische Analyse folgt nach der Desk-Prüfung.
Benchmarks / Coding
SciCode
Wissenschaftliche Programmieraufgaben mit Domänen-Bibliotheken und mehrstufigem numerischem Code — AA-Snapshot-Läufe.
CodingSolidAktivMittleres KontaminationsrisikoSeit 2024
Was dieser Benchmark nicht misst
- Wet-Lab-Validierung — generierter Code wird nur gegen Referenztests bewertet.
- Bibliotheksversionen in eurer Umgebung — Harness pinnt Dependency-Sets.
Abdeckung
- Aufgabenfamilie
- Coding
- Format
- Wissenschaftliche Coding-Probleme mit Bibliotheksabhängigkeiten.
- Bewertung
- Gelöst-Prozent aus AA-Läufen.
- Verantwortliche Stelle
- SciCode authors
So liest du die Scores
Die Lesehilfe steht noch aus. Nutze bis zur Desk-Einordnung Aufgabenformat, Bewertungsmethode und Quelldaten im Ledger.
Was er nicht abdeckt
- Wet-Lab-Validierung — generierter Code wird nur gegen Referenztests bewertet.
- Bibliotheksversionen in eurer Umgebung — Harness pinnt Dependency-Sets.
Scores
65 ZeilenEvidenz-Ledger
6565 Zeilen
60.2%bester Score
65quellgeprüft
1Quellen
2026-07-21Quelldatum
Wo die Zeilen liegen
0255075100
Auf die Skala dieses Benchmarks normalisiert (0–100). Die Tabelle zeigt die Rohwerte.
Neueste Belege
- Claude Fable 560.2% ·
- Gemini 3.1 Pro Preview58.9% ·
- Kimi K358.7% ·
- Muse Spark 1.158.2% ·
- GPT 5.456.6% ·
Scores nutzen die eigene Einheit und Skala dieses Benchmarks, keinen universellen Qualitätswert.
| # | Modell | Veröffentlichung | Score | Herkunft | Beleglage |
|---|---|---|---|---|---|
| 1 | Claude Fable 5Anthropic | 2026-06-09 | 60.2% | 2026-07-21 | Quelle geprüft |
| 2 | Gemini 3.1 Pro PreviewGoogle | 2026-02-19 | 58.9% | 2026-07-21 | Quelle geprüft |
| 3 | Kimi K3Moonshot | 2026-07-16 | 58.7% | 2026-07-21 | Quelle geprüft |
| 4 | Muse Spark 1.1Meta | 2026-07-09 | 58.2% | 2026-07-21 | Quelle geprüft |
| 5 | GPT 5.4OpenAI | 2026-03-05 | 56.6% | 2026-07-21 | Quelle geprüft |
| 6 | Gemini 3 ProGoogle | 2025-11-18 | 56.1% | 2026-07-21 | Quelle geprüft |
| 7 | GPT 5.5OpenAI | 2026-04-23 | 56.1% | 2026-07-21 | Quelle geprüft |
| 8 | GPT-5.6 SolOpenAI | 2026-07-09 | 56.1% | 2026-07-21 | Quelle geprüft |
| 9 | GPT-5.5 (high)OpenAI | 2026-04-23 | 55.9% | 2026-07-21 | Quelle geprüft |
| 10 | Claude Opus 4.7Anthropic | 2026-04-16 | 54.5% | 2026-07-21 | Quelle geprüft |
| 11 | Grok 4.5xAI | 2026-07-08 | 54.1% | 2026-07-21 | Quelle geprüft |
| 12 | GPT-5.6 TerraOpenAI | 2026-07-09 | 53.9% | 2026-07-21 | Quelle geprüft |
| 13 | Claude Sonnet 5Anthropic | 2026-06-30 | 53.6% | 2026-07-21 | Quelle geprüft |
| 14 | Claude Opus 4.8Anthropic | 2026-05-28 | 53.5% | 2026-07-21 | Quelle geprüft |
| 15 | GPT-5.5 (medium)OpenAI | 2026-04-23 | 53.5% | 2026-07-21 | Quelle geprüft |
| 16 | Kimi K2.6Moonshot | 2026-04-20 | 53.5% | 2026-07-21 | Quelle geprüft |
| 17 | GPT-5.3 Codex (xhigh)OpenAI | 2026-02-05 | 53.2% | 2026-07-21 | Quelle geprüft |
| 18 | Gemini 3.5 FlashGoogle | 2026-05-19 | 53.1% | 2026-07-21 | Quelle geprüft |
| 19 | Gemini 3.5 Flash (medium)Google | 2026-05-19 | 53% | 2026-07-21 | Quelle geprüft |
| 20 | GPT-5.6 LunaOpenAI | 2026-07-09 | 52.5% | 2026-07-21 | Quelle geprüft |
| 21 | GPT-5.2OpenAI | 2025-12-11 | 52.1% | 2026-07-21 | Quelle geprüft |
| 22 | Claude Opus 4.6 (Adaptive Reasoning, Max Effort)Anthropic | 2026-02-05 | 51.9% | 2026-07-21 | Quelle geprüft |
| 23 | GPT-5.5 (low)OpenAI | 2026-04-23 | 51.6% | 2026-07-21 | Quelle geprüft |
| 24 | Muse SparkOther | 2026-01-01 | 51.5% | 2026-07-21 | Quelle geprüft |
| 25 | GLM-5.2Zhipu | 2026-06-13 | 50.5% | 2026-07-21 | Quelle geprüft |
| 26 | MiMo-V2.5-ProXiaomi | 2026-04-22 | 50.2% | 2026-07-21 | Quelle geprüft |
| 27 | Claude Opus 4.7 (Non-reasoning, High Effort)Anthropic | 2026-04-16 | 50.1% | 2026-07-21 | Quelle geprüft |
| 28 | DeepSeek V4 Pro (Reasoning, Max Effort)DeepSeek | 2026-04-24 | 50% | 2026-07-21 | Quelle geprüft |
| 29 | Gemini 3 Flash PreviewGoogle | 2025-12-17 | 49.9% | 2026-07-21 | Quelle geprüft |
| 30 | GPT-5.4 MiniOpenAI | 2026-03-17 | 49.9% | 2026-07-21 | Quelle geprüft |
| 31 | Kimi K2.5Moonshot | 2026-01-27 | 49% | 2026-07-21 | Quelle geprüft |
| 32 | Qwen3.7 MaxAlibaba | 2026-05-19 | 48.8% | 2026-07-21 | Quelle geprüft |
| 33 | Kimi K2.7 CodeMoonshot | 2026-06-12 | 47.5% | 2026-07-21 | Quelle geprüft |
| 34 | Grok 4.3xAI | 2026-04-30 | 47.3% | 2026-07-21 | Quelle geprüft |
| 35 | Claude Opus 4.5Anthropic | 2025-11-24 | 47% | 2026-07-21 | Quelle geprüft |
| 36 | MiniMax M2.7MiniMax | 2026-04-15 | 47% | 2026-07-21 | Quelle geprüft |
| 37 | Claude Sonnet 4.6Anthropic | 2026-02-17 | 46.9% | 2026-07-21 | Quelle geprüft |
| 38 | GPT-5.4 NanoOpenAI | 2026-03-17 | 46.9% | 2026-07-21 | Quelle geprüft |
| 39 | Claude Sonnet 4.6 (Adaptive Reasoning, Max Effort)Anthropic | 2026-02-17 | 46.8% | 2026-07-21 | Quelle geprüft |
| 40 | Claude Opus 4.6Anthropic | 2026-02-05 | 45.7% | 2026-07-21 | Quelle geprüft |
| 41 | Grok 4.20 ReasoningxAI | 2026-03-05 | 45.6% | 2026-07-21 | Quelle geprüft |
| 42 | Qwen 3.7 PlusAlibaba | 2026-06-02 | 45.5% | 2026-07-21 | Quelle geprüft |
| 43 | MiniMax M3MiniMax | 2026-05-31 | 45.4% | 2026-07-21 | Quelle geprüft |
| 44 | GLM-5.1Zhipu | 2026-04-07 | 43.8% | 2026-07-21 | Quelle geprüft |
| 45 | Gemma 4 31B ITGoogle | 2026-03-01 | 43.4% | 2026-07-21 | Quelle geprüft |
| 46 | GPT-5.1OpenAI | 2025-11-13 | 43.3% | 2026-07-21 | Quelle geprüft |
| 47 | MiniMax M2.5MiniMax | 2026-04-01 | 42.6% | 2026-07-21 | Quelle geprüft |
| 48 | Gemini 3.1 Flash LiteGoogle | 2026-05-07 | 41.9% | 2026-07-21 | Quelle geprüft |
| 49 | OpenAI o3OpenAI | 2025-04-16 | 41% | 2026-07-21 | Quelle geprüft |
| 50 | DeepSeek R1DeepSeek | 2025-01-20 | 40.3% | 2026-07-21 | Quelle geprüft |
| 51 | Step 3.7 FlashStepFun | 2026-06-01 | 40% | 2026-07-21 | Quelle geprüft |
| 52 | Nemotron 3 Ultra 550B A55B (Reasoning)NVIDIA | 2026-06-04 | 39.9% | 2026-07-21 | Quelle geprüft |
| 53 | Gemma 4 12B (Reasoning)Google | 2026-06-07 | 38.2% | 2026-07-21 | Quelle geprüft |
| 54 | North Mini CodeCohere | 2026-06-09 | 38.2% | 2026-07-21 | Quelle geprüft |
| 55 | Mistral Large 3Mistral | 2025-12-02 | 36.2% | 2026-07-21 | Quelle geprüft |
| 56 | OpenAI o1OpenAI | 2024-09-12 | 35.8% | 2026-07-21 | Quelle geprüft |
| 57 | LongCat-2.0Meituan | 2026-06-29 | 35.4% | 2026-07-21 | Quelle geprüft |
| 58 | Llama 4 MaverickMeta | 2026-04-05 | 33.1% | 2026-07-21 | Quelle geprüft |
| 59 | HyperNova 60B 2605Multiverse | 2026-05-06 | 33% | 2026-07-21 | Quelle geprüft |
| 60 | Gemma 4 12B (Non-reasoning)Google | 2026-06-10 | 29.7% | 2026-07-21 | Quelle geprüft |
| 61 | Command ACohere | 2026-03-15 | 28.1% | 2026-07-21 | Quelle geprüft |
| 62 | Claude 3 OpusAnthropic | 2024-03-04 | 23.3% | 2026-07-21 | Quelle geprüft |
| 63 | Llama 4 ScoutMeta | 2026-04-05 | 17% | 2026-07-21 | Quelle geprüft |
| 64 | LFM2.5-8B-A1BLiquid | 2026-06-08 | 7.8% | 2026-07-21 | Quelle geprüft |
| 65 | MiniCPM5-1B (Reasoning)OpenBMB | 2026-06-04 | 4.4% | 2026-07-21 | Quelle geprüft |
Was er abdeckt
Die Notiz zur Datenqualität steht aus. Jede Ledger-Zeile trägt weiterhin Quellen-URL, Quelldatum und Zeitpunkt des Einlesens.
Wo er an Grenzen stößt
Noch ist keine Obergrenze erfasst. Wenn sich Scores oben bündeln, kann der Benchmark Frontier-Modelle möglicherweise nicht mehr trennen.
Belege
Quellen und weiterführende Lektüre
- AA SciCode· geprüft 2026-06-10
The Pack · Redaktionsnewsletter
Neue Karten in dein Postfach. Kostenlos.
Eine kurze E-Mail, wenn eine Karte erscheint oder den Status wechselt. Kein Tracking, keine Drittanbieter-Analytics. Abmeldung mit einem Klick.