СВЕ-бенцх трци је потребна евалуација оријентисана на производњу
Референтни показатељи код агента за кодирање као што је СВЕ-бенцх остају корисни сигнали, али контекст спремишта, безбедност и квалитет прегледа одређују вредност производње.
Конкуренција око СВЕ-бенцх и сродних процена агената за кодирање наставља да пружа видљиву таблицу резултата за издања модела. Ови бенчмаркови мере корисне могућности, посебно када агент мора да разуме проблем и модификује стварну базу кода. Они не представљају у потпуности окружење компаније. Приватне зависности, нејасни захтеви, дозволе за примену, безбедносна правила и трошкови прегледа промене могу драматично да промене резултат. Користите јавна мерила за ужи избор алата, а затим покрените приватни пакет за процену направљен од репрезентативних улазница. Измерите прихваћене захтеве за повлачењем, регресије, протекло време и напор људи за преглед.
SWE-bench, Coding agents, Benchmarks, Software engineering
Nederland, Netherlands, NL, TripleZero iT, AI
TripleZero iT, Nederland