Peretasan Berbasis AI: Bagaimana Peretas Memanfaatkan Kecerdasan Buatan dalam Serangan Siber

Peretasan berbasis AI adalah penggunaan kecerdasan buatan untuk meningkatkan atau mengotomatiskan serangan siber. Hal ini memungkinkan pelaku ancaman untuk membuat kode, menganalisis sistem, dan menghindari sistem pertahanan dengan upaya manual yang minimal. 

Model AI, terutama model bahasa berskala besar (LLM), membuat pengembangan serangan menjadi lebih cepat, lebih murah, dan lebih mudah diakses oleh peretas yang kurang berpengalaman. Akibatnya, muncullah serangkaian serangan AI baru yang lebih cepat, lebih dapat diskalakan, dan seringkali lebih sulit dihentikan dengan sistem pertahanan tradisional.  

Pelaku ancaman berbasis AI kini memanfaatkan kecerdasan buatan untuk melancarkan serangan siber yang lebih cepat, lebih cerdas, dan lebih adaptif. Mulai dari pembuatan malware hingga otomatisasi phishing, AI mengubah kejahatan siber menjadi operasi yang dapat diperluas. Kini, AI mampu menghasilkan kode berbahaya, menulis konten phishing yang meyakinkan, dan bahkan memandu penyerang melalui seluruh rantai serangan.

Para penjahat siber memanfaatkan kecerdasan buatan (AI) di beberapa bidang utama:

• Pembuatan muatan: Alat-alat seperti HackerGPT dan WormGPT mampu menulis malware yang disamarkan, mengotomatiskan taktik pengelakan, serta mengubah skrip menjadi file yang dapat dieksekusi. Ini adalah contoh serangan AI generatif, yang sering ditemui dalam serangan siber yang melibatkan agen AI di mana model-model tersebut mengambil keputusan secara otonom.
• Rekayasa sosial: Kecerdasan buatan (AI) menciptakan email phishing yang tampak nyata, meniru suara, dan menghasilkan deepfake untuk memanipulasi korban secara lebih efektif.
• Pengintaian dan perencanaan: AI mempercepat penelitian target, pemetaan infrastruktur, dan identifikasi kerentanan.
• Otomatisasi dalam skala besar: Para penyerang memanfaatkan kecerdasan buatan (AI) untuk melancarkan serangan bertahap dengan campur tangan manusia yang minimal.

Menurut Ponemon Institute, kecerdasan buatan (AI) telah digunakan dalam kampanye ransomware dan serangan phishing yang menyebabkan gangguan operasional besar-besaran, termasuk pencurian kredensial dan penutupan paksa lebih dari 300 gerai ritel selama insiden kebocoran data pada tahun 2023. 

Beberapa tren yang mulai muncul sedang mengubah lanskap ancaman:

• Demokratisasi serangan siber: Model sumber terbuka seperti LLaMA, yang telah disesuaikan untuk tujuan serangan, kini dapat diakses oleh siapa saja yang memiliki daya komputasi lokal
• Hambatan masuk yang lebih rendah: Apa yang dulu membutuhkan keahlian khusus kini dapat dilakukan hanya dengan petunjuk sederhana dan beberapa klik
• Tingkat keberhasilan pengelakan yang meningkat: Malware yang dihasilkan oleh AI lebih mampu menyembunyikan diri dari deteksi statis, sandbox, dan bahkan analisis dinamis
• Model Malware-as-a-Service (MaaS): Para penjahat siber menggabungkan kemampuan kecerdasan buatan (AI) ke dalam paket berbasis langganan, sehingga memudahkan mereka melancarkan serangan kompleks dalam skala besar
• Penggunaan AI dalam insiden kebocoran data di dunia nyata: Ponemon Institute melaporkan bahwa para penyerang telah menggunakan AI untuk mengotomatiskan penargetan ransomware, termasuk dalam insiden-insiden yang memaksa penghentian sementara operasi-operasi besar

Penipuan phishing dan rekayasa sosial yang didukung AI sedang mengubah modus penipuan tradisional menjadi serangan yang dapat dilakukan dalam skala besar dan dipersonalisasi, sehingga lebih sulit dideteksi. Para pelaku ancaman kini menggunakan model generatif untuk membuat email yang tampak meyakinkan, meniru suara, dan bahkan membuat panggilan video palsu guna memanipulasi target mereka.

Berbeda dengan penipuan konvensional, email phishing yang dihasilkan oleh kecerdasan buatan (AI) dirancang dengan rapi dan sangat meyakinkan. Alat-alat seperti ChatGPT dan WormGPT menghasilkan pesan yang meniru komunikasi internal, komunikasi layanan pelanggan, atau pembaruan dari departemen SDM. Ketika dipadukan dengan data yang bocor, email-email ini menjadi lebih dipersonalisasi dan memiliki peluang lebih besar untuk berhasil.

AI juga menjadi pendorong munculnya bentuk-bentuk rekayasa sosial yang lebih baru: 

• Serangan kloning suara meniru suara para eksekutif dengan menggunakan cuplikan audio pendek untuk memicu tindakan mendesak seperti transfer dana
• Serangan deepfake meniru panggilan video atau rapat jarak jauh untuk melakukan penipuan yang berisiko tinggi

Dalam sebuah insiden baru-baru ini, para penyerang menggunakan email yang dihasilkan oleh kecerdasan buatan (AI) selama periode pendaftaran tunjangan, dengan menyamar sebagai bagian SDM untuk mencuri kredensial dan mendapatkan akses ke catatan karyawan. Bahayanya terletak pada ilusi kepercayaan. Ketika sebuah email tampak seperti berasal dari dalam perusahaan, nada suaranya terdengar familiar, dan permintaannya terasa mendesak, bahkan staf yang terlatih pun bisa tertipu. 

AI mempercepat cara para penyerang menemukan dan mengeksploitasi kerentanan perangkat lunak. Apa yang dulunya membutuhkan waktu berhari-hari untuk dilakukan secara manual, kini dapat diselesaikan dalam hitungan menit dengan menggunakan model pembelajaran mesin yang dilatih untuk melakukan pengintaian dan menghasilkan eksploit.

Pelaku ancaman memanfaatkan AI untuk mengotomatiskan pemindaian kerentanan di seluruh sistem yang terbuka untuk umum, guna mengidentifikasi konfigurasi yang lemah, perangkat lunak yang sudah usang, atau CVE yang belum diperbaiki. Berbeda dengan alat tradisional, AI mampu menilai konteks paparan untuk membantu penyerang memprioritaskan sasaran bernilai tinggi. 

Taktik eksploitasi yang umum dilakukan dengan bantuan AI antara lain:

• Fuzzing otomatis untuk mengungkap kerentanan zero-day dengan lebih cepat
• Pembuatan skrip khusus untuk eksekusi kode jarak jauh atau pergerakan lateral
• Pemecahan kata sandi dan serangan brute force yang dioptimalkan melalui pembelajaran pola dan model probabilistik 
• Bot pengintai yang memindai jaringan untuk mencari aset berisiko tinggi dengan gangguan minimal

Model generatif seperti LLaMA, Mistral, atau Gemma dapat disesuaikan (fine-tuned) untuk menghasilkan muatan yang disesuaikan, seperti shellcode atau serangan injeksi, berdasarkan karakteristik khusus sistem, yang sering kali mampu melewati mekanisme perlindungan yang terintegrasi dalam model komersial.

Trennya jelas: AI memungkinkan para penyerang untuk menemukan kerentanan dan memanfaatkannya dengan kecepatan mesin. Menurut Ponemon Institute, 54% profesional keamanan siber menganggap kerentanan yang belum diperbaiki sebagai kekhawatiran utama mereka di era serangan yang didukung AI.

Serangan siber berbasis AI bukan lagi sekadar teori; serangan tersebut telah digunakan untuk mencuri data, menerobos sistem pertahanan, dan menyamar sebagai manusia dalam skala besar.  

Contoh-contoh dalam tiga kategori penting di bawah ini menunjukkan bahwa penyerang tidak lagi memerlukan keterampilan tingkat lanjut untuk menimbulkan kerusakan serius dalam serangan siber. AI mempermudah akses bagi penyerang sekaligus meningkatkan kecepatan, skala, dan tingkat kerahasiaan serangan. Pihak yang bertugas melindungi harus beradaptasi dengan secara proaktif menguji sistem yang terintegrasi dengan AI serta menerapkan langkah-langkah pengamanan yang memperhitungkan baik manipulasi teknis maupun penipuan terhadap manusia.

Injeksi prompt adalah teknik di mana penyerang memanfaatkan kerentanan dalam LLM (model bahasa besar) dengan memberikan masukan yang dirancang khusus untuk menggantikan perilaku yang seharusnya. Serangan ini memanfaatkan cara LLM menafsirkan dan memprioritaskan instruksi, seringkali dengan sedikit atau tanpa keterlibatan malware konvensional. 

Alih-alih menggunakan AI untuk melancarkan serangan eksternal, teknik “prompt injection” justru mengubah sistem AI milik organisasi itu sendiri menjadi agen yang tanpa disadari dapat dimanfaatkan untuk melakukan serangan. Jika model bahasa besar (LLM) diintegrasikan ke dalam alat-alat seperti layanan bantuan, chatbot, atau pengolah dokumen tanpa pengamanan yang memadai, penyerang dapat menyisipkan perintah tersembunyi yang kemudian ditafsirkan dan dijalankan oleh model tersebut. Hal ini dapat mengakibatkan:

• Bocornya data pribadi atau data yang bersifat rahasia
• Melakukan tindakan yang tidak disengaja (misalnya, mengirim email, mengubah catatan)
• Memanipulasi hasil untuk menyebarkan informasi yang menyesatkan atau memicu tindakan lanjutan

Risiko-risiko ini semakin meningkat pada sistem di mana beberapa model saling bertukar informasi. Misalnya, prompt berbahaya yang disisipkan dalam sebuah dokumen dapat memengaruhi alat ringkasan berbasis AI, yang kemudian meneruskan wawasan yang keliru ke sistem-sistem di tahap selanjutnya. 

Seiring dengan semakin terintegrasinya AI ke dalam alur kerja bisnis, para penyerang semakin sering menargetkan model-model ini untuk merusak kepercayaan, mencuri data, atau memanipulasi keputusan dari dalam ke luar.

Serangan deepfake memanfaatkan audio atau video yang dihasilkan oleh kecerdasan buatan (AI) untuk menyamar sebagai seseorang secara real-time. Dikombinasikan dengan taktik rekayasa sosial, alat-alat ini digunakan untuk melakukan penipuan, pencurian kredensial, dan akses tidak sah ke sistem. 

Kloning suara kini menjadi sangat berbahaya. Hanya dengan rekaman suara berdurasi beberapa detik saja, pelaku ancaman dapat menghasilkan audio yang meniru nada, kecepatan bicara, dan intonasi. Suara-suara kloning ini kemudian digunakan untuk:

• Menyamar sebagai eksekutif atau manajer saat melakukan panggilan mendesak
• Menipu karyawan agar melakukan transfer bank atau mereset kata sandi
• Melewati sistem otentikasi suara

Deepfakes melangkah lebih jauh dengan menghasilkan video sintetis. Pelaku ancaman dapat meniru seorang CEO dalam panggilan video yang meminta data rahasia—atau muncul dalam klip rekaman yang “mengumumkan” perubahan kebijakan guna menyebarkan disinformasi. Ponemon Institute melaporkan sebuah insiden di mana penyerang menggunakan pesan yang dihasilkan AI dengan menyamar sebagai bagian HR selama periode pendaftaran tunjangan perusahaan, yang berujung pada pencurian kredensial. 

Seiring dengan semakin mudahnya akses terhadap alat-alat AI, bahkan pelaku ancaman berskala kecil pun dapat membuat peniruan yang sangat mirip aslinya. Serangan-serangan ini mampu melewati filter spam tradisional atau sistem pertahanan endpoint dengan memanfaatkan rasa kepercayaan. 

Serangan terhadap model klasifikasi memanipulasi masukan atau perilaku sistem AI untuk memaksa sistem tersebut mengambil keputusan yang salah tanpa harus menulis malware atau mengeksploitasi kode. Taktik-taktik ini termasuk dalam kategori yang lebih luas, yaitu pembelajaran mesin adversarial.  

Ada dua strategi utama:

• Serangan pengelabuan: Penyerang membuat input yang menipu klasifikasi sehingga menghasilkan identifikasi yang salah, seperti malware yang menyamar sebagai file yang tidak berbahaya untuk mengelabui mesin antivirus 
• Serangan “poisoning”: Sebuah model dilatih atau disempurnakan menggunakan data yang sengaja dimanipulasi, sehingga mengubah kemampuannya dalam mendeteksi ancaman 

Model yang diawasi sering kali mengalami "overfitting": model tersebut mempelajari pola-pola tertentu dari data pelatihan dan gagal mendeteksi serangan yang sedikit saja menyimpang. Para penyerang memanfaatkan hal ini dengan menggunakan alat seperti WormGPT (LLM sumber terbuka yang telah disesuaikan untuk tugas-tugas ofensif) guna membuat muatan yang berada tepat di luar batas deteksi yang diketahui.

Ini adalah versi berbasis pembelajaran mesin dari eksploit zero-day.

Peretas AI menggunakan AI untuk mengotomatiskan, meningkatkan, dan memperluas serangan siber berbasis AI. Sebaliknya, peretasan tradisional sering kali memerlukan penulisan skrip secara manual, keahlian teknis yang mendalam, dan investasi waktu yang signifikan. Perbedaan mendasar terletak pada kecepatan, skalabilitas, dan aksesibilitas: bahkan penyerang pemula pun kini dapat melancarkan serangan siber canggih yang didukung AI hanya dengan beberapa perintah dan GPU kelas konsumen.

Banyak organisasi kini beralih ke uji red teaming yang didukung AI untuk menguji sistem pertahanan mereka terhadap penyalahgunaan model bahasa besar (LLM), injeksi prompt, dan upaya mengelabui klasifikasi. Simulasi-simulasi ini membantu mengidentifikasi kerentanan dalam sistem yang terintegrasi dengan AI sebelum para penyerang melakukannya. 

Tim merah menggunakan prompt adversarial, phishing sintetis, dan muatan yang dihasilkan AI untuk mengevaluasi apakah sistem tersebut tangguh atau rentan terhadap eksploitasi. Pengujian keamanan berbasis AI juga mencakup: 

• Model fuzzing untuk risiko injeksi prompt 
• Mengevaluasi cara LLM menangani masukan yang dimanipulasi atau dirangkai 
• Pengujian ketahanan klasifikasi terhadap perilaku pengelakan 

Para pemimpin bidang keamanan juga mulai memeriksa model bahasa besar (LLM) milik mereka sendiri untuk mendeteksi kebocoran prompt, halusinasi, atau akses yang tidak disengaja ke logika internal, yang merupakan langkah penting seiring dengan integrasi AI generatif ke dalam produk dan alur kerja.

Alih-alih mencoba “melawan AI dengan AI” dalam siklus reaktif, Martin Kallas menganjurkan penerapan pertahanan proaktif berlapis-lapis. Solusi “ OPSWAT ” ini menggabungkan berbagai teknologi yang menargetkan seluruh siklus hidup ancaman:

• Metascan™ Multiscanning: Memeriksa berkas menggunakan beberapa mesin antivirus untuk mendeteksi ancaman yang terlewatkan oleh sistem yang hanya menggunakan satu mesin antivirus 
• MetaDefender Aether™: Menganalisis perilaku file dalam lingkungan yang terisolasi, bahkan mampu mendeteksi muatan yang dihasilkan oleh AI yang lolos dari aturan statis 
• Teknologi Deep CDR™: Menetralkan ancaman dengan membangun ulang berkas menjadi versi yang aman, sekaligus menghilangkan eksploit yang tertanam di dalamnya 

Tumpukan keamanan berlapis ini dirancang untuk mengatasi sifat tak terduga dari malware yang dihasilkan oleh AI, termasuk ancaman polimorfik, muatan dalam memori, dan umpan deepfake yang mampu mengelabui alat-alat tradisional. Karena setiap lapisan menargetkan tahap yang berbeda dalam rantai serangan, cukup satu lapisan saja untuk mendeteksi atau menetralkan ancaman tersebut dan menggagalkan seluruh operasi sebelum ancaman itu sempat menimbulkan kerusakan.

FBI dan lembaga-lembaga AS lainnya semakin gencar mengintegrasikan kecerdasan buatan ke dalam operasi pertahanan siber mereka, tidak hanya untuk menyaring dan memprioritaskan ancaman, tetapi juga untuk meningkatkan analisis data, analisis video, dan pengenalan suara.

Menurut FBI, kecerdasan buatan (AI) membantu memproses volume data yang besar untuk menghasilkan petunjuk penyelidikan, termasuk pengenalan kendaraan, identifikasi bahasa, dan konversi ucapan menjadi teks. Yang penting, lembaga tersebut menerapkan pengawasan manusia yang ketat: semua hasil yang dihasilkan oleh AI harus diverifikasi oleh penyidik yang terlatih sebelum tindakan apa pun diambil. 

AI bukanlah pengganti pengambilan keputusan manusia. FBI menekankan bahwa manusia selalu bertanggung jawab atas hasil penyelidikan, dan bahwa AI harus digunakan dengan cara yang menghormati privasi, kebebasan sipil, dan standar hukum.