Mengevaluasi DeepSeek-Coder-6.7B pada HumanEval
Menjalankan python main.py --model deepseek-ai/deepseek-coder-6.7b-instruct --tasks humaneval
Cocok untuk:Developer model
Coding / Pengembang

DeepSeek Harness adalah repositori GitHub yang dikelola oleh deepseek-ai dan menyediakan skrip evaluasi siap pakai serta konfigurasi tugas untuk model DeepSeek berbasis lm-evaluation-harness.
Peringkat penggunaan token OpenRouter
#8
Sumber: OpenRouter

Coding Plan
Diskon model Coding Pro
Produk ini termasuk dalam kategori Coding / Developer dan terutama ditujukan bagi developer untuk diterapkan dan digunakan secara lokal atau di server. Dengan meng-clone repositori, menginstal dependensi, dan menjalankan perintah yang ditentukan, pengguna dapat menjalankan pengujian benchmark standar pada model seri DeepSeek. Keunggulan utamanya adalah repositori ini sudah menyertakan berkas adaptasi dan daftar tugas untuk model DeepSeek, sehingga pengguna tidak perlu menulis kode evaluasi sendiri. Produk ini cocok untuk peneliti AI dan tim engineering yang membutuhkan evaluasi konsisten terhadap large language model open source atau proprietary. Dibandingkan framework evaluasi umum, produk ini terhubung langsung dengan metode pemuatan bobot model DeepSeek sehingga mengurangi tahap adaptasi model.
Ringkasan singkat
DeepSeek Harness adalah repositori GitHub yang dikelola oleh deepseek-ai dan menyediakan skrip evaluasi siap pakai serta konfigurasi tugas untuk model DeepSeek berbasis lm-evaluation-harness.
Biasanya digunakan untuk
Pengguna memakainya untuk menjalankan skrip Python, melakukan benchmark pada model DeepSeek tertentu menggunakan dataset seperti MMLU dan HumanEval, lalu menghasilkan skor. Pengguna juga dapat membandingkan hasil evaluasi dari berbagai versi model atau checkpoint secara batch.
Cocok untuk
Developer, tim engineering, dan lead teknis
Cara kerja
Biasanya proses dimulai dengan membaca konteks di IDE, terminal, atau lingkungan proyek. Selanjutnya, Agent merencanakan langkah, menjalankan perintah, atau memodifikasi berkas, lalu pengguna memeriksa hasilnya.
Jenis produk
Ekstensi / Plugin
Harga
Tidak diketahui
Enhanced bulk dataset saat ini tidak menyediakan informasi harga real-time untuk produk ini. Lihat situs web resmi atau dokumentasi resmi.
Integrasi APIMaster
Didukung
DeepSeek Harness → Settings → Models → Add a custom provider
Keandalan data
Sedang
Terakhir diverifikasi: 2026-09-02
Memuat dataset HumanEval, menjalankan pembuatan kode oleh model, serta menghitung metrik pass@1, pass@10, dan pass@100
Memuat model melalui engine vLLM untuk inferensi batch, dengan dukungan tensor parallelism dan continuous batching
Menggunakan berkas YAML untuk menentukan nama tugas, path dataset, template prompt, dan metrik evaluasi
Membuat berkas JSON yang berisi hasil terperinci untuk setiap sampel dan metrik keseluruhan
Memuat bobot model seri DeepSeek-Coder secara langsung dari Hugging Face Hub
Menyediakan tugas pembuatan kode MBPP dan APPS bawaan dengan dukungan untuk pengunduhan dan prapemrosesan otomatis
Menjalankan python main.py --model deepseek-ai/deepseek-coder-6.7b-instruct --tasks humaneval
Cocok untuk:Developer model
Menjalankan pengujian benchmark yang sama pada deepseek-coder-6.7b-base dan deepseek-coder-v2-lite-base secara berurutan, lalu membandingkan pass@k
Cocok untuk:Peneliti
Menulis konfigurasi YAML yang mengarah ke repositori kode internal, lalu menjalankan evaluasi untuk memverifikasi performa model pada bahasa pemrograman tertentu
Cocok untuk:Developer perusahaan
Mengonfigurasi backend vLLM untuk menjalankan MBPP dan HumanEval pada beberapa model secara bersamaan serta menghasilkan laporan perbandingan
Cocok untuk:Engineer AI
Base URL
https://apimaster.ai/v1Variabel lingkungan API key
API key(Custom provider 配置项)Model
gpt-5.6-sol atau claude-sonnet-4-6 atau deepseek-v4-proRingkasan diskusi
Pengguna biasanya memahami DeepSeek Harness sebagai framework orkestrasi agen coding AI yang sangat modular, dengan gagasan inti bahwa "semuanya adalah plugin". Komponen seperti model, alat, log sesi, loop agen, dan sub-agen dapat diganti secara bebas melalui konfigurasi atau plugin khusus. Diskusi berfokus pada cara menggunakan arsitektur pluginnya untuk membangun alur kerja yang dipersonalisasi, berintegrasi dengan model lokal atau agen pihak ketiga seperti Claude Code dan Codex, serta menyeimbangkan fleksibilitas dengan stabilitas dalam tugas coding nyata. Pengguna juga sering membahas perbedaan arsitekturnya dengan alat serupa seperti Pi dan Hermes, terutama mengenai cara ekstensi berbasis plugin menyesuaikan fungsionalitas untuk berbagai skenario.
Pengguna membahas bagaimana bagian inti seperti adaptor model, registrasi alat, log sesi, dan loop agen dapat diganti dengan mulus melalui dependensi yang dideklarasikan plugin, event listener, dan registrasi yang dapat dibatalkan tanpa memodifikasi source code framework.
Pengguna membandingkan desain DeepSeek Harness yang sepenuhnya berbasis plugin dan bergaya Lego dengan fondasi minimalis Pi atau pengalaman CLI Claude Code, sambil mengeksplorasi kompromi dalam pengelolaan konteks, pengendalian biaya, dan kebebasan kustomisasi, serta skenario yang paling sesuai untuk setiap alur kerja.
Pengguna berfokus pada cara menghubungkan alat seperti Claude Code atau Codex sebagai sub-agen native, merutekan subtugas, serta memeriksa status dan progres melalui konfigurasi untuk mengorkestrasi kolaborasi multi-agen.
Pengguna berbagi pengalaman instalasi dan konfigurasi untuk menghubungkan model lokal seperti Ollama dan Qwen ke Harness, menambahkan plugin alat seperti alat web dan otomatisasi iOS, serta menjalankan dan mengembangkannya melalui Web UI lokal.
Pengguna membahas penggunaan direktori plugin komunitas, penulisan plugin baru untuk memperluas kemampuan memori, sandbox, atau UI, serta pengaruh stabilitas API plugin terhadap pengembangan agen khusus dalam jangka panjang.
Saat ini kami mengklasifikasikannya dalam kategori "Coding / Developer", dan deskripsi halaman ini didasarkan pada sumber publik seperti situs web resmi dan OpenRouter.
Halaman DeepSeek Harness yang telah diperkaya memprioritaskan tugas inti dan kasus penggunaan yang sudah dikumpulkan, sehingga Anda dapat menilai dengan cepat apakah produk ini sesuai dengan kebutuhan saat ini.
Materi saat ini telah mengonfirmasi bahwa produk ini mendukung key pihak ketiga atau endpoint kompatibel khusus, sehingga Anda dapat melanjutkan verifikasi secara langsung sesuai petunjuk konfigurasi di halaman.
Juga termasuk dalam kategori Coding / Developer dan cocok untuk membandingkan berbagai titik masuk tugas serta format produk secara berdampingan.
Juga termasuk dalam kategori Coding / Developer dan cocok untuk membandingkan berbagai titik masuk tugas serta format produk secara berdampingan.
Juga termasuk dalam kategori Coding / Developer dan cocok untuk membandingkan berbagai titik masuk tugas serta format produk secara berdampingan.
Sumber:Situs resmiDokumentasi resmiGitHub
Terakhir diverifikasi: 2026-09-02 · Laporkan koreksi