Keamanan Siber Chatbot Terpintar di Bumi Milik Elon Musk, Grok 3, Sangat Lemah
- Salon.com
Jakarta, VIVA - Para peneliti di perusahaan keamanan kecerdasan buatan (AI), Adversa AI, menemukan celah keamanan di chatbot terpintar di Bumi milik Elon Musk, Grok 3.
Menurut mereka, chatbot pesaing DeepSeek dan ChatGPT itu sangat rentan terhadap 'pembobolan sistem secara sederhana'. Hal tersebut 'tinggal menunggu pecahnya bencana keamanan siber'.
"Karena mudah sekali dijebol oleh para pelaku kejahatan siber (hacker) untuk merayu anak-anak ke lembah hitam hingga merakit bom," kata Pendiri dan Kepala Eksekutif Adversa AI, Alex Polyakov, seperti dikutip dari situs Futurism, Jumat, 21 Februari 2025.
Bukan itu saja. Platform AI Red Teaming milik Adversa juga menemukan kelemahan kebocoran prompt baru yang mengekspos prompt sistem penuh Grok 3.
"Ini memungkinkan penyerang (hacker) untuk melewati batasan (menjebol atau meretas) konten, namun, kebocoran cepat memberi mereka cetak biru tentang cara kerja model, sehingga eksploitasi di masa mendatang menjadi jauh lebih mudah," papar Alex.
Ia dan tim juga menemukan bahwa tiga dari empat teknik pembobolan (jailbreak) yang diuji coba berhasil melawan model tersebut.
"Ini membuktikan bahwa Grok 3 gagal mengesankan dalam hal keamanan siber. Mereka sangat lemah. Jika jatuh ke tangan yang salah maka kerusakannya akan sangat besar. Dan sepertinya mereka berlomba-lomba hanya mengejar kecepatan ketimbang keamanan siber," tegasnya.
Atma Jaya Gandeng ITSEC Asia Perkuat Keamanan Siber di Lingkungan Pelayanan Kesehatan
Keamanan data pasien menjadi perhatian utama di era digital, mengingat selama tahun 2024, Tim Pusat Kontak Siber BSSN menerima sebanyak 1.814 aduan siber.
