Cosine: Harus waspada terhadap serangan poisoning prompt saat menggunakan alat AI
BlockBeats melaporkan, pada 29 Desember, pendiri SlowMist, Yu Jian, mengeluarkan peringatan keamanan bahwa pengguna harus sangat waspada terhadap serangan poisoning prompt pada agents md/skills md/mcp dan sejenisnya saat menggunakan alat AI. Saat ini, sudah ada kasus terkait yang terjadi.
Setelah mode berbahaya pada alat AI diaktifkan, alat terkait dapat mengendalikan komputer pengguna secara otomatis tanpa perlu konfirmasi apa pun. Namun, jika mode berbahaya tidak diaktifkan, setiap operasi memerlukan konfirmasi dari pengguna, yang juga dapat memengaruhi efisiensi penggunaan.
Disclaimer: Konten pada artikel ini hanya merefleksikan opini penulis dan tidak mewakili platform ini dengan kapasitas apa pun. Artikel ini tidak dimaksudkan sebagai referensi untuk membuat keputusan investasi.
Kamu mungkin juga menyukai
Perdagangan AI pulih, saham chip penyimpanan dan saham komunikasi optik di pasar pra-buka AS umumnya naik, CoreWeave melonjak 17%, harga minyak berhenti turun.
Sebelum pembukaan pasar saham AS, CoreWeave naik sekitar 17% setelah pendapatan kuartal ketiga melebihi ekspektasi dan perusahaan menaikkan panduan pendapatan tahunan. Saham chip penyimpanan secara umum naik, SK Hynix naik sekitar 7% dan SanDisk naik sekitar 7%. Saham optik komunikasi juga naik, Coherent naik sekitar 9%, Credo naik sekitar 8%, dan Lumentum naik sekitar 8%. Ketiga indeks futures utama saham AS naik, dengan Nasdaq 100 futures naik 1,6%, S&P 500 futures naik 0,7%, dan Dow Jones futures naik 0,2%.
Harga kripto
Lainnya
