Puluhan Ribu Senjata Biologi 'Lahir' Dalam 6 Jam

VIVA – Kemampuan kecerdasan buatan (artificial intelligence/AI) yang mumpuni membuat teknologi ini mampu mengenali jenis penyakit lebih awal, mengelola reaksi kimia, dan menjelaskan beberapa misteri alam semesta. Tapi AI ternyata punya kelemahan.

Para peneliti baru menemukan betapa mudahnya teknologi ini dilatih untuk tujuan jahat, tidak hanya untuk kebaikan, khususnya dalam desain senjata biologi hipotetis atau berdasarkan prasangka.

Uji coba dengan AI mengidentifikasi 40 ribu bahan kimia senjata biologi hanya dalam waktu enam jam. Dengan kata lain, AI bisa sangat kuat dalam hal menemukan kombinasi kimia dan senyawa obat untuk meningkatkan kesehatan manusia, kekuatan yang sama dapat digunakan untuk menemukan zat yang berpotensi sangat berbahaya dan mematikan.

"Kami menghabiskan beberapa dekade menggunakan komputer dan AI untuk meningkatkan kesehatan manusia," demikian keterangan para peneliti, seperti dikutip dari situs Science Alert, Senin, 28 Maret 2022.

Mereka juga tidak pernah menyangka akan penyalahgunaan kecerdasan buatan karena tujuan mereka adalah untuk menghindari fitur molekuler yang dapat mengganggu berbagai kelas protein yang penting bagi kehidupan manusia.

Tim peneliti lalu menjalani uji coba dalam sebuah konferensi keamanan internasional yang menempatkan AI yang disebut MegaSyn untuk bekerja. Dalam percobaan itu molekul beracun disimpan daripada dihilangkan. Uji coba ini juga dilatih untuk menggabungkan molekul-molekul dalam kombinasi.

Secara khusus para peneliti melatih AI dengan molekul dalam database molekul mirip obat serta menginstruksikan bahwa mereka menginginkan sesuatu yang mirip dengan racun saraf VX yang sangat kuat.

Ternyata banyak senyawa yang dihasilkan, bahkan lebih beracun daripada VX. Karena sangat mengerikan maka peneliti merahasiakan beberapa detail hasil penelitian mereka dan secara serius memperdebatkan apakah hasil ini harus dipublikasikan atau tidak.

"Dengan membalikkan penggunaan model pembelajaran mesin (machine learning), kami berhasil mengubah model generatif yang tidak berbahaya dari alat kedokteran yang bermanfaat menjadi generator molekul yang mungkin sangat mematikan," jelas para peneliti.

Meskipun tidak ada senjata biologi terdaftar yang benar-benar dieksplorasi atau disatukan di laboratorium, namun mereka mengatakan bahwa eksperimennya berfungsi sebagai peringatan akan bahaya dari kecerdasan buatan (AI).

Simak Obrolan Erick Thohir dengan Bos NVIDIA Jensen Huang soal Ekosistem AI Indonesia

Menteri BUMN, Erick Thohir, mengaku senang dapat bertemu dengan Jensen Huang, pendiri NVIDIA.

VIVA.co.id

14 November 2024