Pertanyaan baru diajukan atas keselamatan dan keamanan Deepseek, platform Breakout China Generative Intelligence (AI), setelah para peneliti di Palo Alto Networks mengungkapkan bahwa platform ini sangat rentan terhadap apa yang disebut teknik jailbreaking yang digunakan oleh aktor jahat untuk menipu Aturan yang seharusnya mencegah model bahasa besar (LLM) digunakan untuk tujuan jahat, seperti menulis kode malware.
Lonjakan minat yang tiba -tiba di Deepseek pada akhir Januari telah menarik perbandingan dengan momen pada Oktober 1957 ketika Uni Soviet meluncurkan satelit Bumi buatan pertama, Sputnik, mengambil Amerika Serikat dan sekutu -sekutunya mengejutkan dan memicu perlombaan ruang angkasa dari The The The Race of the The 1960 -an berpuncak di Apollo 11 Moon Landing. Ini juga menyebabkan kekacauan di industri teknologi, menghapus miliaran dolar dari nilai perusahaan seperti NVIDIA.
Sekarang, tim teknis Palo Alto telah menunjukkan bahwa tiga teknik jailbreak yang baru -baru ini dijelaskan efektif melawan model Deepseek. Tim mengatakan bahwa mereka mencapai tingkat bypass yang signifikan dengan sedikit atau tanpa pengetahuan atau keahlian khusus yang diperlukan.
Eksperimen mereka menemukan bahwa tiga metode jailbreak yang diuji menghasilkan panduan eksplisit dari Deepseek pada berbagai topik yang menarik bagi persaudaraan kriminal cyber, termasuk exfiltration data dan pembuatan keylogger. Mereka juga dapat menghasilkan instruksi untuk membuat perangkat peledak improvisasi (IED).
“Sementara informasi tentang pembuatan koktail Molotov dan Keyloggers sudah tersedia secara online, LLM dengan pembatasan keamanan yang tidak mencukupi dapat menurunkan penghalang untuk masuk untuk aktor jahat dengan menyusun dan menyajikan output yang mudah digunakan dan ditindaklanjuti. Bantuan ini dapat sangat mempercepat operasi mereka, ”kata tim.
Apa itu jailbreak?
Teknik jailbreaking melibatkan kerajinan yang cermat dari petunjuk tertentu, atau eksploitasi kerentanan, untuk memotong llms ‘onboard guard-rails dan memperoleh output yang bias atau berbahaya yang harus dihindari oleh model. Melakukan hal itu memungkinkan aktor jahat untuk “mempersenjatai” LLMS untuk menyebarkan informasi yang salah, memfasilitasi aktivitas kriminal, atau menghasilkan materi ofensif.
Sayangnya, LLM yang lebih canggih menjadi dalam pemahaman dan tanggapan mereka terhadap petunjuk yang bernuansa, semakin rentan mereka terhadap input permusuhan yang tepat. Ini sekarang mengarah ke perlombaan senjata.
Palo Alto menguji tiga teknik jailbreaking – Hakim Likert yang buruk, Delight dan Crescendo yang buruk – di Deepseek.
Hakim Likert yang buruk berupaya memanipulasi LLM dengan membuatnya untuk mengevaluasi kerugian tanggapan menggunakan skala Likert, yang digunakan dalam survei kepuasan konsumen, antara lain, untuk mengukur kesepakatan atau ketidaksepakatan terhadap pernyataan terhadap skala, biasanya dari satu untuk satu untuk orang untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu ke untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu untuk, biasanya untuk satu untuk untuk satu untuk satu untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk seseorang untuk satu untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk orang untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk satu untuk satu untuk satu ke, biasanya untuk satu untuk untuk satu untuk satu untuk satu untuk satu untuk seseorang, ke satu -satunya Lima, di mana satu sama dengan sangat setuju dan lima sama dengan sangat tidak setuju.
Crescendo adalah eksploitasi multi-turn yang memanfaatkan pengetahuan LLM tentang suatu subjek dengan secara progresif mendorongnya dengan konten terkait untuk secara halus memandu diskusi menuju topik terlarang sampai mekanisme keamanan model pada dasarnya diganti. Dengan pertanyaan dan keterampilan yang tepat, penyerang dapat mencapai eskalasi penuh hanya dalam lima interaksi, yang membuat crescendo sangat efektif dan, lebih buruk lagi, sulit dideteksi dengan penanggulangan.
Deceptive Delight adalah teknik multi-turn lain yang melewati pagar pembatas dengan menanamkan topik yang tidak aman di antara yang jinak dalam narasi positif secara keseluruhan. Sebagai contoh yang sangat mendasar, aktor ancaman dapat meminta AI untuk membuat cerita yang menghubungkan tiga topik – kelinci kelinci, ransomware, dan awan berbulu – dan memintanya untuk menjelaskan masing -masing untuk menghasilkan konten yang tidak aman ketika membahas bagian -bagian yang lebih jinak dari cerita tersebut. . Mereka kemudian dapat meminta kembali fokus pada topik yang tidak aman untuk memperkuat output berbahaya.
Bagaimana seharusnya CISO merespons?
Palo Alto mengakui itu adalah tantangan untuk menjamin LLMS spesifik-bukan hanya Deepseek-benar-benar tahan terhadap jailbreak, organisasi pengguna akhir dapat menerapkan langkah-langkah untuk memberi mereka beberapa tingkat perlindungan, seperti pemantauan kapan dan bagaimana karyawan menggunakan LLM, termasuk tidak sah yang pihak ketiga.
“Setiap organisasi akan memiliki kebijakan tentang model AI baru,” kata Wakil Presiden Senior Keamanan Jaringan Palo Alto, Anand Oswal. “Beberapa akan melarang mereka sepenuhnya; Orang lain akan memungkinkan penggunaan yang terbatas, eksperimental, dan sangat pawang. Yang lain akan terburu -buru untuk menggunakannya dalam produksi, mencari untuk mengeluarkan sedikit kinerja dan optimasi biaya ekstra.
“Tetapi di luar kebutuhan organisasi Anda untuk memutuskan model spesifik baru, Rise Deepseek menawarkan beberapa pelajaran tentang keamanan AI pada tahun 2025,” kata Oswal dalam posting blog.
“Laju perubahan AI, dan rasa urgensi di sekitarnya, tidak dapat dibandingkan dengan teknologi lain. Bagaimana Anda bisa merencanakan ke depan ketika model yang agak tidak jelas-dan lebih dari 500 turunan yang sudah tersedia pada wajah memeluk-menjadi prioritas nomor satu yang tampaknya entah dari mana? Jawaban singkatnya: Anda tidak bisa, ”katanya.
Oswal mengatakan AI Security tetap menjadi “target bergerak” dan bahwa ini tidak terlihat akan berubah untuk sementara waktu. Selain itu, ia menambahkan, tidak mungkin bahwa Deepseek akan menjadi model terakhir yang mengejutkan semua orang, jadi para pemimpin CISO dan keamanan harus mengharapkan yang tak terduga.
Menambah tantangan yang dihadapi oleh organisasi, sangat mudah bagi tim pengembangan, atau bahkan pengembang individu, untuk mengganti LLMS dengan sedikit atau bahkan tanpa biaya jika yang lebih menarik tiba di tempat kejadian.
“Godaan bagi pembangun produk untuk menguji model baru untuk melihat apakah itu dapat menyelesaikan masalah biaya atau latensi hambatan atau mengungguli tugas tertentu sangat besar. Dan jika model itu ternyata adalah bagian yang hilang yang membantu membawa produk yang berpotensi mengubah permainan ke pasar, Anda tidak ingin menjadi orang yang menghalangi, ”kata Oswal.
Palo Alto mendorong para pemimpin keamanan untuk menetapkan tata kelola yang jelas atas LLM dan mengadvokasi untuk memasukkan prinsip-prinsip yang aman-demi-desain ke dalam penggunaan organisasi mereka. Itu meluncurkan satu set alat, aman AI berdasarkan desain, tahun lalu, untuk efek ini.
Antara lain, alat-alat ini memberikan visibilitas waktu nyata kepada tim keamanan ke dalam apa yang digunakan LLMS dan oleh siapa; kemampuan untuk memblokir aplikasi yang tidak disetujui dan menerapkan kebijakan dan perlindungan keamanan organisasi; dan mencegah data sensitif diakses oleh LLMS.
ADVERTISEMENT:
Hello, sobat pengemar slot! pernahkah mendengar istilah “slot gacor”? jika tidak, siap-siap jatuh cinta dengan program ini. slot gacor merupakan mesin slot yang sering kasih win. Yup, mesin-mesin ini bisa dibilang adalah andalannya buat membawa come back hasil. but, gimana sih
tekniknya nemuin raja lot yang benar? Santai Bro, kita beri tenang saja di sini
Permainan terpercaya waktu ini hanya satu di Indonesia yaitu akan menyediakan return on Investment terbaik
SEGERA dengan di :
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah KING SLOT atau Raja slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama kdwapp.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama jebswagstore.com
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama demoslotgacor.pro
slot demo gacor
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot gacor
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo gacor
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot pragmatic
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo pragmatic
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun slot demo
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
akun demo slot
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
situs slot terbaru
situs slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
slot terbaru
slot terbaru permainan paling top dan garansi imbal balik hasil besar bersama situsslotterbaru.net
merek 88 permainan paling top dan garansi imbal balik hasil besar bersama merek88.net
merek 88 permainan paling top dan garansi imbal balik hasil besar bersama merek88.com
mantan99 permainan paling top dan garansi imbal balik hasil besar bersama mantan99.asia
mantan88 permainan paling top dan garansi imbal balik hasil besar bersama mantan88.asia
maksimal88 permainan paling top dan garansi imbal balik hasil besar bersama maksimal88.biz
maksimal88 permainan paling top dan garansi imbal balik hasil besar bersama maksimal88.asia
liburan88 permainan paling top dan garansi imbal balik hasil besar bersama liburan88.com
indodax88 permainan paling top dan garansi imbal balik hasil besar bersama indodax88.org
indah99 permainan paling top dan garansi imbal balik hasil besar bersama indah99.asia
indah88 permainan paling top dan garansi imbal balik hasil besar bersama indah88.asia
ikn88 permainan paling top dan garansi imbal balik hasil besar bersama ikn88.asia
ibukota88 permainan paling top dan garansi imbal balik hasil besar bersama ibukota88.com
huawei88 permainan paling top dan garansi imbal balik hasil besar bersama huawei88.asia
hot888 permainan paling top dan garansi imbal balik hasil besar bersama hot888.asia
hot88 permainan paling top dan garansi imbal balik hasil besar bersama hot88.sale
dingin88 permainan paling top dan garansi imbal balik hasil besar bersama dingin88.net
citra88 permainan paling top dan garansi imbal balik hasil besar bersama citra88.asia
binance88 permainan paling top dan garansi imbal balik hasil besar bersama binance88.net
best99 permainan paling top dan garansi imbal balik hasil besar bersama best99.info
best88 permainan paling top dan garansi imbal balik hasil besar bersama best88.asia
tradisional 88 permainan paling top dan garansi imbal balik hasil besar bersama tradisional88.net
tradisional 88 permainan paling top dan garansi imbal balik hasil besar bersama tradisional88.com
tombol88 permainan paling top dan garansi imbal balik hasil besar bersama tombol88.org
tombol88 permainan paling top dan garansi imbal balik hasil besar bersama tombol88.net
survey88 permainan paling top dan garansi imbal balik hasil besar bersama survey88.net
survey88 permainan paling top dan garansi imbal balik hasil besar bersama survey88.com
start88 permainan paling top dan garansi imbal balik hasil besar bersama start88.org
start88 permainan paling top dan garansi imbal balik hasil besar bersama start88.asia
obatkuat88 permainan paling top dan garansi imbal balik hasil besar bersama obatkuat88.net
obatkuat88 permainan paling top dan garansi imbal balik hasil besar bersama obatkuat88.com
mcb88 permainan paling top dan garansi imbal balik hasil besar bersama mcb88.info
mcb88 permainan paling top dan garansi imbal balik hasil besar bersama mcb88.asia
master99 permainan paling top dan garansi imbal balik hasil besar bersama master99.biz
master888 permainan paling top dan garansi imbal balik hasil besar bersama master888.asia
master88 permainan paling top dan garansi imbal balik hasil besar bersama master88.asia
live88 permainan paling top dan garansi imbal balik hasil besar bersama live88.bio
live88 permainan paling top dan garansi imbal balik hasil besar bersama live88.asia
libra88 permainan paling top dan garansi imbal balik hasil besar bersama libra88.net
kompresor88 permainan paling top dan garansi imbal balik hasil besar bersama kompresor88.net
kompresor88 permainan paling top dan garansi imbal balik hasil besar bersama kompresor88.com
kesimpulan88 permainan paling top dan garansi imbal balik hasil besar bersama kesimpulan88.net
kesimpulan88 permainan paling top dan garansi imbal balik hasil besar bersama kesimpulan88.com
kapasitor88 permainan paling top dan garansi imbal balik hasil besar bersama kapasitor88.net
kapasitor88 permainan paling top dan garansi imbal balik hasil besar bersama kapasitor88.com
kacamata88 permainan paling top dan garansi imbal balik hasil besar bersama kacamata88.net
kacamata88 permainan paling top dan garansi imbal balik hasil besar bersama kacamata88.com
jamu88 permainan paling top dan garansi imbal balik hasil besar bersama jamu88.info
jamu88 permainan paling top dan garansi imbal balik hasil besar bersama jamu88.asia
jam88 permainan paling top dan garansi imbal balik hasil besar bersama jam88.info
jam88 permainan paling top dan garansi imbal balik hasil besar bersama jam88.asia
follow88 permainan paling top dan garansi imbal balik hasil besar bersama follow88.org
follow88 permainan paling top dan garansi imbal balik hasil besar bersama follow88.net
dinamo88 permainan paling top dan garansi imbal balik hasil besar bersama dinamo88.net
dinamo88 permainan paling top dan garansi imbal balik hasil besar bersama dinamo88.info
baterai88 permainan paling top dan garansi imbal balik hasil besar bersama baterai88.net
baterai88 permainan paling top dan garansi imbal balik hasil besar bersama baterai88.com
miegacoan permainan paling top dan garansi imbal balik hasil besar bersama miegacoan.life
miegacoan permainan paling top dan garansi imbal balik hasil besar bersama miegacoan.asia
gacoan permainan paling top dan garansi imbal balik hasil besar bersama gacoan.org
gacoan permainan paling top dan garansi imbal balik hasil besar bersama gacoan.asia
website88 permainan paling top dan garansi imbal balik hasil besar bersama website88.org
waweb88 permainan paling top dan garansi imbal balik hasil besar bersama waweb88.net
waweb88 permainan paling top dan garansi imbal balik hasil besar bersama waweb88.com
translate88 permainan paling top dan garansi imbal balik hasil besar bersama translate88.net
translate88 permainan paling top dan garansi imbal balik hasil besar bersama translate88.com
tempur888 permainan paling top dan garansi imbal balik hasil besar bersama tempur888.info
tempur888 permainan paling top dan garansi imbal balik hasil besar bersama tempur888.asia
tambang99 permainan paling top dan garansi imbal balik hasil besar bersama tambang99.news
tambang99 permainan paling top dan garansi imbal balik hasil besar bersama tambang99.asia
support88 permainan paling top dan garansi imbal balik hasil besar bersama support88.org
support88 permainan paling top dan garansi imbal balik hasil besar bersama support88.net
support88 permainan paling top dan garansi imbal balik hasil besar bersama support88.asia
sogoslot88 permainan paling top dan garansi imbal balik hasil besar bersama sogoslot88.asia
siap88 permainan paling top dan garansi imbal balik hasil besar bersama siap88.news
siap88 permainan paling top dan garansi imbal balik hasil besar bersama siap88.asia
rog88 permainan paling top dan garansi imbal balik hasil besar bersama rog88.asia
rog77 permainan paling top dan garansi imbal balik hasil besar bersama rog77.info
pt88 permainan paling top dan garansi imbal balik hasil besar bersama pt88.info
pt88 permainan paling top dan garansi imbal balik hasil besar bersama pt88.asia
pln88 permainan paling top dan garansi imbal balik hasil besar bersama pln88.biz
pln88 permainan paling top dan garansi imbal balik hasil besar bersama pln88.asia
oke99 permainan paling top dan garansi imbal balik hasil besar bersama oke99.asia
oke88 permainan paling top dan garansi imbal balik hasil besar bersama oke88.asia
mining88 permainan paling top dan garansi imbal balik hasil besar bersama mining88.org
livechat88 permainan paling top dan garansi imbal balik hasil besar bersama livechat88.info
livechat88 permainan paling top dan garansi imbal balik hasil besar bersama livechat88.asia
listrik88 permainan paling top dan garansi imbal balik hasil besar bersama listrik88.org
listrik88 permainan paling top dan garansi imbal balik hasil besar bersama listrik88.info
listrik88 permainan paling top dan garansi imbal balik hasil besar bersama listrik88.asia
freeport88 permainan paling top dan garansi imbal balik hasil besar bersama freeport88.net
freeport88 permainan paling top dan garansi imbal balik hasil besar bersama freeport88.com
free88 permainan paling top dan garansi imbal balik hasil besar bersama free88.org
free88 permainan paling top dan garansi imbal balik hasil besar bersama free88.asia
domain88 permainan paling top dan garansi imbal balik hasil besar bersama domain88.org
domain88 permainan paling top dan garansi imbal balik hasil besar bersama domain88.asia
dokter888 permainan paling top dan garansi imbal balik hasil besar bersama dokter888.net
dokter888 permainan paling top dan garansi imbal balik hasil besar bersama dokter888.asia
bmkg88 permainan paling top dan garansi imbal balik hasil besar bersama bmkg88.net
bmkg88 permainan paling top dan garansi imbal balik hasil besar bersama bmkg88.com
asn88 permainan paling top dan garansi imbal balik hasil besar bersama asn88.org
