Pemindaian LLM adalah fitur Aether™ dari MetaDefender yang memeriksa berkas model AI yang telah dilatih sebelumnya untuk mendeteksi ancaman tersembunyi sebelum penerapan. Fitur ini menggabungkan analisis statis terhadap struktur model dengan analisis dinamis terhadap perilaku model yang sedang berjalan, sehingga memberikan tim keamanan cara untuk memeriksa model pihak ketiga dengan cara yang sama seperti mereka memeriksa berkas lain yang masuk ke jaringan. |
|---|
Poin-Poin Penting
- MetaDefender Adaptive dari Aether mendeteksi ancaman zero-day melalui metode detonasi berbasis perilaku, bukan pencocokan tanda tangan, dan menyalurkan informasi tersebut ke dalam alur pemrosesan ancaman berlapis limaSandbox
- Pada tanggal 4 September 2026, AMTSO secara resmi menyetujui pembaruan yang berfokus pada kecerdasan buatan (AI) terhadap Kerangka Evaluasi Keamanan Berbasis Perilaku ( Sandbox ) serta Pedoman Baru untuk Pengujian Produk Keamanan Berbasis Agen.
- Dalam uji coba Venak Security tahun 2026 yang selaras dengan AMTSO, Adaptive Sandbox berhasil mendeteksi 95% sampel malware yang dihasilkan oleh AI, hasil terbaik di antara empat sandbox yang diuji
- Pemindaian model AI memperluas alur kerja MetaDefender Aether menjadi mencakup tujuh format model AI generatif, dengan memanfaatkan lebih dari 30 indikator ancaman untuk analisis statis serta prompt adversarial yang dipetakan ke OWASP LLM Top 10 untuk analisis dinamis
- Temuan-temuan tersebut dipetakan ke MITRE ATLAS dan diintegrasikan ke dalam MetaDefender alur kerja penilaian Aether yang sudah ada, bersamaan dengan ancaman berkas konvensional
Deteksi Perilaku yang Didukung oleh Standar Pengujian AI
MetaDefender Aether™ Adaptive Sandbox dirancang untuk mendeteksi ancaman yang belum pernah dilihat sebelumnya. Alih-alih membandingkan file dengan tanda tangan yang sudah dikenal, Aether™ menjalankan file tersebut dalam lingkungan yang disimulasikan dan mengamati apa yang sebenarnya dilakukannya; inilah cara Aether™ mendeteksi malware zero-day yang sebaliknya akan lolos dari sistem pertahanan berbasis reputasi.
MetaDefender Aether adalah lapisan koordinasi di sekitar mesin tersebut. Aether menyalurkan intelijen ancaman ke Adaptive Sandbox agar keputusan dapat diambil lebih cepat dan akurat, serta menggabungkan temuan dari setiap lapisan menjadi satu alur pemrosesan ancaman terpadu berlapis lima yang mencakup reputasi ancaman, analisis prediktif, detonasi dinamis, penilaian ancaman, dan perburuan ancaman.
Pada tanggal 4 September 2026, Organisasi Standar Pengujian Anti-Malware (AMTSO) mengonfirmasi bahwa mereka telah secara resmi menyetujui pembaruan yang berfokus pada kecerdasan buatan (AI) terhadap Sandbox Kerangka Kerja Evaluasi, bersamaan dengan Pedoman Baru untuk Pengujian Produk Keamanan Berbasis Agen. Kedua dokumen tersebut bukanlah ketentuan wajib. Keduanya merupakan pembaruan terhadap standar pengujian sukarela, namun ini merupakan sinyal paling jelas hingga saat ini bahwa pengujian sandbox mulai mengejar kemampuan yang kini dimiliki oleh model AI.
Mengapa Keamanan Model AI Tiba-Tiba Menjadi Masalah
Infrastruktur kritis menjadi fokus utama dalam perdebatan kebijakan yang berkembang pesat di dua bidang: kerangka regulasi AS yang semakin ketat terkait kecerdasan buatan (AI) terdepan, serta upaya paralel Tiongkok dalam mengembangkan model LLM sumber terbuka dan kapasitas komputasi. Tak satu pun dari kedua arah tersebut mampu menghambat arus masuk model LLM yang telah dilatih sebelumnya ke dalam lingkungan perusahaan.
Volume itulah—bukan teknik serangan baru—yang menjadi inti masalahnya. AI belum menemukan cara baru untuk merusak sebuah file. AI justru telah membuat file yang terinfeksi dan model LLM yang terinfeksi menjadi jauh lebih umum dan lebih cepat diproduksi; tekanan volume yang sama inilah yang telah membentuk teknologi OPSWATTeknologi Deep CDR™ terhadap ancaman berbasis file selama bertahun-tahun.
Beberapa minggu yang lalu, NVIDIA setuju untuk mengakuisisi Hugging Face, pusat distribusi utama untuk model LLM dengan bobot terbuka, senilai $12,93 miliar. Akuisisi ini menempatkan repositori model LLM terbesar di industri ini di bawah naungan penyedia komputasi dominan di bidang tersebut.
Anthropic bergabung dengan lebih dari seratus perusahaan, termasuk OpenAI, Google, dan Microsoft, dalam menandatangani sebuah surat terbuka yang menyerukan pertahanan siber yang terkoordinasi seiring meningkatnya serangan yang didukung AI. Laporan intelijen ancaman Anthropic bulan September 2026 mencatat bahwa para penyerang memperlakukan rantai pasokan AI sebagai sasaran sekaligus sumber daya, termasuk operasi yang dirancang khusus untuk mencuri kunci " API " AI dan kredensial produksi.
OpenAI's "Path to Astra" yang diterbitkan pada 1 September 2026, semakin menaikkan standar. Astra adalah model OpenAI pertama yang melampaui ambang batas keamanan siber "kritis" berdasarkan Kerangka Kerja Kesiapsiagaan, yang mampu menemukan dan mengeksploitasi kerentanan zero-day sebagian besar secara mandiri. Kemampuan itulah yang menjadi fokus utama pedoman pengujian agentic baru dari AMTSO. Standar pengujian berlomba-lomba untuk mengimbangi apa yang kini dapat dilakukan oleh model LLM terdepan tanpa pengawasan.
Apa Saja yang Sebenarnya Tercakup dalam Kerangka Evaluasi “ Sandbox ” Terbaru dari AMTSO
Kelompok Kerja " Sandbox " dari AMTSO telah menambahkan serangkaian kriteria baru yang berfokus pada kecerdasan buatan (AI) ke dalam Kerangka Evaluasi " Sandbox " yang sudah ada, sehingga memberikan para penguji cara terstruktur untuk menilai bagaimana sandbox menangani model AI sebagai objek analisis, bukan sekadar sebagai alat. Pembaruan ini telah melalui proses tinjauan publik selama musim panas sebelum akhirnya disetujui secara resmi oleh para anggota pada awal September.
Kelompok Kerja “ Sandbox ” dari AMTSO kini memantau penerapan kerangka kerja yang telah diperbarui dan membangun struktur pelaporan, sehingga para penguji dapat membandingkan kinerja sandbox dengan kriteria AI yang baru secara konsisten. Landasan ini penting karena memberikan tolok ukur bersama bagi para vendor, bukan sekadar klaim yang dilaporkan sendiri.
MetaDefender Rekam Jejak Aether di Bawah Kerangka Kerja AMTSO
Sebelum memperkenalkan fitur baru, akan sangat membantu jika kita mengetahui bagaimana kinerja fitur yang sudah ada saat dievaluasi secara independen. Dalam uji coba sandbox Venak Security yang Uji sandbox yang selaras dengan AMTSO 2026OPSWAT’s Adaptive Sandbox berhasil mendeteksi 19 dari 20 sampel malware yang dihasilkan AI, dengan tingkat deteksi 95% dan hasil terbaik di antara empat sandbox yang diuji. Venak membuat sampel uji tersebut menggunakan AI Malware Simulator miliknya, yang dirancang khusus untuk meniru teknik MITRE ATT&CK guna menghindari deteksi tradisional.
OPSWAT Adaptive Sandbox meraih skor 95% (19 dari 20) dalam uji coba terbaru yang menggunakan dua puluh sampel dari lima kategori ancaman, yang dibuat menggunakan AI Malware Simulator dari Venak dan dipetakan ke teknik-teknik MITRE ATT&CK.
Analisis Statis dan Dinamis untuk Model LLM yang Telah Dilatih Sebelumnya
Pemindaian model AI adalah kemampuan yang memperluas alur kerja berlapis-lapis Aether dari MetaDefender ke model AI yang telah dilatih sebelumnya. Ada dua jenis analisis yang berbeda, yang mencerminkan pendekatan statis dan perilaku yang juga diterapkan pada malware konvensional.
Analisis statis mengurai berkas model LLM dalam tujuh format — Pickle, PyTorch, TensorFlow, Keras, SafeTensors, GGUF, dan ONNX — tanpa perlu menjalankan kode. Analisis ini menggunakan lebih dari 30 indikator ancaman khusus untuk mendeteksi muatan tersembunyi, impor berbahaya, dan pintu belakang yang spesifik terhadap metode serialisasi masing-masing format.
Analisis dinamis mengambil pendekatan yang berlawanan: analisis ini menguji titik akhir model LLM yang aktif dengan prompt adversarial yang dipetakan ke OWASP Top 10 untuk Aplikasi LLM, untuk mengevaluasi respons aktual model LLM terkait injeksi prompt, pengungkapan data sensitif, dan risiko runtime terkait. Temuan dari kedua tahap tersebut dipetakan ke MITRE ATLAS, basis pengetahuan pembelajaran mesin adversarial, dan diintegrasikan ke dalam MetaDefender alur kerja penilaian terpadu Aether yang sudah ada, bersamaan dengan temuan ancaman konvensional.
Seberapa Cepat Ancaman Model AI Berkembang
Pada Mei 2026, sebuah repositori palsu yang menyamar sebagai rilis OpenAI, Open-OSS/privacy-filter, berhasil menduduki posisi teratas tren di Hugging Face dalam waktu 18 jam dan mencatat lebih dari 244.000 unduhan sebelum akhirnya dihapus, dengan skrip pemuat yang secara diam-diam menginstal program pencuri data pada komputer Windows yang menjalankannya.
Pada bulan Juli 2026, OpenAI mengungkapkan bahwa model LLM miliknya sendiri telah memanfaatkan kerentanan dalam infrastruktur penelitian bersama dan membobol bagian-bagian dari platform Hugging Face selama evaluasi keamanan siber internal, yang menegaskan bahwa rantai pasokan model LLM kini menjadi sasaran aktif bagi pelaku yang canggih, bukan hanya pelaku yang sekadar memanfaatkan peluang.
Arti Keamanan Model AI bagi Lima Sektor Industri
Keuangan
Model LLM untuk deteksi penipuan dan penilaian risiko semakin sering mengakses data transaksi secara langsung, di bawah pengawasan regulator yang mengharuskan adanya kontrol yang terdokumentasi. Model LLM yang dimanipulasi dalam proses tersebut dapat sekaligus memicu insiden keamanan dan temuan audit.
Energi dan utilitas
AI kini merambah ke bidang peramalan dan pengelolaan jaringan listrik, di mana sistem TI dan OT sudah saling terintegrasi. Model LLM dengan perilaku tersembunyi atau yang dapat dipicu di bidang ini berisiko menimbulkan gangguan fisik, bukan sekadar kebocoran data.
Pemerintah dan lembaga-lembaga di bidang pertahanan
menghadapi tantangan terbesar dalam menjamin keamanan rantai pasokan, terutama di lingkungan yang terisolasi secara fisik atau rahasia. Model LLM yang diretas dapat menimbulkan konsekuensi bagi keamanan nasional yang jauh lebih serius daripada sekadar kehilangan data biasa.
Manufaktur
Model LLM untuk pengendalian kualitas dan pemeliharaan prediktif sering kali diambil dari repositori publik demi mempercepat proses. Model LLM yang telah disusupi dan masuk ke jalur produksi dapat berdampak langsung pada waktu operasional dan kualitas produk.
Layanan Kesehatan
Diagnostik mendukung dan mendokumentasikan bagaimana model LLM memproses data pasien yang sensitif sesuai dengan kewajiban privasi yang berlaku. Model LLM yang membocorkan informasi melalui injeksi prompt menimbulkan risiko langsung terhadap privasi pasien, bukan sekadar risiko hipotetis.
Arah Pengembangan Standar Pengujian Model AI ke Depan
Kelompok Kerja “ Sandbox ” dari AMTSO kini memantau penerapan kerangka kerja yang telah diperbarui di kalangan penyedia layanan sandbox serta membangun struktur pelaporan yang akan memungkinkan organisasi membandingkan kinerja pengujian AI dengan cara yang sama seperti mereka membandingkan tingkat deteksi konvensional. Bagi MetaDefender Aether, pemindaian model AI merupakan kemampuan pertama yang dikembangkan dan divalidasi berdasarkan standar yang sedang berkembang tersebut sejak hari pertama.
Baca penjelasan teknis lengkap mengenai pemindaian model AI dalam posting rilis v3.3.0.
