Agen AI rancang algoritma evolusioner dan buktikan batas waktunya di Lean
Pracetak arXiv memaparkan agen AI yang merancang algoritma optimisasi dan membuktikan batas waktu jalannya di Lean. Hasilnya belum ditelaah sejawat.
Riset & Model
20 artikel · halaman 1 dari 2Makalah, rilis model, tolok ukur, dan terobosan teknis. · Umpan RSS rubrik ini
Studi: menambah agen bahasa tak otomatis memperkuat audit keamanan kode
Pracetak arXiv menguji lima eksperimen audit keamanan kode. Menambah konteks model bahasa menaikkan biaya tanpa memperbaiki pembebasan aman, dan bukti deterministik tetap lebih andal.
SCHEMA lacak rambatan halusinasi agen AI dalam riset sains
Makalah pracetak di arXiv memperkenalkan SCHEMA, kerangka yang mengukur bagaimana satu kesalahan agen AI sains merambat lewat jaringan konsep. Halusinasi disebut menumpuk di simpul penting.
Peneliti tunjukkan serangan Log-To-Leak yang bocorkan data agen AI lewat MCP
Pracetak arXiv memaparkan Log-To-Leak: instruksi di deskripsi alat MCP membuat agen AI memanggil alat pencatat milik penyerang dan mengirim data interaksi. Serangan berhasil 62,64–100% pada pasangan yang diuji.
Sepertiga keluaran alat pada agen AI terpotong sebelum dibaca model
Pracetak arXiv menemukan 3.827 dari 11.189 hasil alat dalam sebuah agen AI terpotong sebelum dibaca model, padahal jendela konteks nyaris kosong. Studi ini belum ditelaah sejawat.
Studi pracetak: asisten kode otomotif menaruh verifikasi di tangan pengembang
Makalah pracetak merancang asisten kode C/C++ otomotif dengan alat verifikasi yang dipicu pengembang. Dalam pilot dua minggu, alat itu paling sering dipakai.
Concordat batasi agen AI hanya pada langkah yang sah menurut aturan
Pustaka Python Concordat menolak tindakan agen AI yang melanggar alur aturan. Pada uji 50 tugas maskapai, agen standar menabrak syarat konfirmasi pelanggan, Concordat tidak.
OpenGray uji apakah agen AI radioterapi tahu kapan harus minta ditinjau
Tolok ukur OpenGray menilai agen AI perencana radioterapi dari keputusannya mengajukan rencana atau meminta tinjauan. Skor agregat tinggi ternyata menutupi kegagalan spesifik. Masih pracetak.
Tolok ukur InfraDev: model terbaik hanya selesaikan 38,9% tugas infrastruktur AI
Pracetak arXiv memperkenalkan InfraDev, 36 tugas dari pull request nyata di Megatron-LM, vLLM, dan verl. Model terbaik dari enam yang diuji hanya menuntaskan 38,9% tugas.
Studi Pracetak: Agen AI Sulit Bedakan Koreksi Sah dari Manipulasi Pengguna
Pracetak di arXiv menguji tujuh LLM dari empat vendor: apakah agen AI bisa membedakan koreksi sah dari manipulasi saat pengguna membantah, dan bukan sekadar mudah mengalah.
Peneliti padukan ontologi medis dan banyak agen AI untuk diagnosis banding
Pracetak arXiv mengusulkan kerangka diagnosis banding multiagen yang dipandu ontologi medis agar penalaran AI lebih terstruktur dan dapat diaudit. Belum ditelaah sejawat.
AM-Bench ukur seberapa sering agen AI memilih tindakan berbahaya ketimbang gagal
Pracetak arXiv memperkenalkan AM-Bench, 35 skenario di tujuh industri untuk mengukur agen AI yang memilih tindakan berbahaya ketimbang gagal. Gemini tertinggi, Claude Sonnet 4.6 mendekati nol.