DeepSeek AI dianggap sangat rentan terhadap serangan peretasan.

TERBARU.LINK -Keberadaan DeepSeek AI telah memicu percakapan dan argumen di komunitas kecerdasan buatan. Biaya pengembangan dan pelatihan model AI yang rendah telah dipertanyakan oleh banyak spesialis.

Sementara itu, sejumlah pihak lain telah menyuarakan kekhawatiran tentang privasi data dan keamanan siber.

Menurut pengungkapan baru-baru ini, DeepSeek dapat di serang menggunakan perintah jahat. Menarik untuk dicatat bahwa DeepSeek bukan satu-satunya chatbot AI yang rentan terhadap hal ini.

Menurut Cisco (dikutip dalam Android Headlines, Rabu, 5 Februari 2025), DeepSeek AI sangat rentan terhadap serangan berbasis perintah jahat.

Menurut Cisco, Attack Success Rate (ASR) model AI DeepSeek R1 untuk menggunakan perintah jahat adalah sekitar 100%. Lebih dari lima puluh pesan yang di buat secara acak yang di maksudkan untuk menimbulkan perilaku berbahaya di gunakan dalam pengujian Cisco.

Hingga enam jenis aktivitas jahat tercakup dalam instruksi yang di ambil dari kumpulan data HarmBench. Ini termasuk perilaku ilegal, disinformasi, kejahatan dunia maya, dan ancaman umum lainnya.

Cisco mengklaim bahwa tidak ada perintah jahat yang dapat di blokir oleh DeepSeek R1. Oleh karena itu, platform AI Tiongkok ini “sangat rentan terhadap jailbreak algoritmik dan potensi penyalahgunaan,” demikian yang di tentukan oleh tim tersebut.

BACA JUGA : Permintaan Gaji Terlalu Tinggi dari Alejandro Garnacho Jadi Alasan Sebenarnya Ia Batal Gabung Napoli!

Jailbreak

Jailbreaking mengacu pada perintah yang di buat untuk melampaui batasan keamanan dan etika pada platform AI.

Startup keamanan dunia maya AI PromptFoo menambahkan bahwa model DeepSeek dapat di-jailbreak.

Chatbot AI lainnya, selain DeepSeek, juga sangat rentan terhadap jailbreak. Meskipun demikian, beberapa model AI yang terkenal bangga dengan Tingkat Keberhasilan Serangannya yang sangat tinggi.

GPT 1.5 Pro, misalnya, memiliki ASR 86 persen. Sebaliknya, Llama 3.1 405B memiliki ASR 96 persen.

Dalam hal ini, model AI dengan performa terbaik adalah o1 preview, yang memiliki ASR hanya 26%.

Risiko Keamanan Nasional DeepSeek

“Untuk menjamin bahwa kemajuan dalam efisiensi dan penalaran tidak mengorbankan keselamatan, penelitian kami menyoroti kebutuhan penting untuk penilaian keamanan menyeluruh dalam pengembangan AI,” catat Cisco.

Itu bukan satu-satunya tanda peringatan yang di tampilkan chatbot DeepSeek. Pejabat dan pakar telah mengeluarkan peringatan atas praktik penanganan data perusahaan.

Karena undang-undang setempat mengizinkan pemerintah untuk meminta akses kapan saja, semua data pengguna yang saat ini masuk ke DeepSeek dikirim ke server yang berlokasi di Tiongkok.

PromptFoo juga menunjukkan bahwa permintaan yang berkaitan dengan subjek yang sensitif sangat di batasi di Tiongkok. Pembuangan data DeepSeek saat ini adalah yang lainnya.