Beim letzten SWE-rebench-Test landeten chinesische Modelle komplett unter den Top Ten und wurden wegen „Punktemanipulation“ verspottet – diesmal belegen sie vier Plätze.

BlockBeatNews

Laut 1M AI News Monitoring ist SWE-rebench ein Echtzeit-Benchmark, der monatlich neue Softwareentwicklungsaufgaben (Issues + PRs) von GitHub extrahiert. Das Modell kann die Aufgaben im Voraus nicht optimieren. Der Maintainer Ibragim veröffentlichte am 23. März ein Update der Rangliste, bei dem die vorherigen Demonstrationsbeispiele und die 80-Schritte-Beschränkung entfernt wurden, sowie zusätzliche Bewertungsaufgaben hinzugefügt wurden.

Die Top 10 der neuesten Rangliste:

  1. Claude Opus 4.6: 65,3%
  2. GPT-5.2 medium: 64,4%
  3. GLM-5: 62,8%
  4. GPT-5.4 medium: 62,8%
  5. Gemini 3.1 Pro Preview: 62,3%
  6. DeepSeek-V3.2: 60,9%
  7. Claude Sonnet 4.6: 60,7%
  8. Claude Sonnet 4.5: 60,0%
  9. Qwen3.5-397B-A17B: 59,9%
  10. Step-3.5-Flash: 59,6%

Das Open-Source-Modell GLM-5 von Zhipu AI (MIT-Lizenz) belegt mit 62,8% den dritten Platz und ist das höchstplatzierte Open-Source-Modell in der Rangliste. Vier chinesische Modelle sind unter den Top Ten vertreten: Neben GLM-5 auch DeepSeek-V3.2 (Platz 6), Alibaba Tongyi Qianwen Qwen3.5-397B-A17B (Platz 9) und Step-3.5-Flash (Platz 10). Li Zixuan, der globale Leiter von Zhipu Z.ai, kommentierte, dass bei der letzten SWE-rebench-Aktualisierung alle chinesischen Modelle außerhalb der Top Ten lagen, was als „benchmaxing“ (Score-Manipulation) kritisiert wurde.

Original anzeigen
Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Kommentieren
0/400
Keine Kommentare