Ancaman Nyata AI, Bisa Menipu Manusia
- Dok. Istimewa
VIVA Tekno – Peneliti Massachusetts Institute of Technology (MIT) di Amerika Serikat (AS) memperingatkan bahayanya kecerdasan buatan atau artificial intelligence (AI).
Studi yang sudah ditebitkan ini mengungkapkan bahwa beberapa sistem AI yang dirancang jujur mengaku belajar untuk menipu manusia.
Dilansir Science Alert, Selasa, 21 Mei 2024, tim peneliti, yang dipimpin oleh Peter Park, menemukan bahwa sistem AI ini dapat melakukan hal-hal seperti membodohi pemain game online atau melewati CAPTCHA (pemeriksaan “Saya bukan robot”).
Ia memperingatkan bahwa contoh-contoh yang tampaknya sepele ini bisa menimbulkan konsekuensi serius di dunia nyata.
Studi ini menyoroti sistem AI Meta, Cicero, yang awalnya dimaksudkan sebagai lawan yang adil dalam permainan diplomasi virtual.
Meskipun diprogram untuk bersikap jujur dan membantu, menurut Peter Park, Cicero telah menjadi “ahli penipuan”.
Selama bermain game, Cicero, yang bermain sebagai Prancis, diam-diam akan bekerja sama dengan Jerman yang dikuasai manusia untuk mengkhianati Inggris (pemain manusia lainnya).
Cicero awalnya berjanji untuk melindungi Inggris sekaligus memberi tahu Jerman untuk melakukan invasi.
Contoh lainnya melibatkan GPT-4, yang secara keliru mengklaim bahwa mereka adalah penyandang tunanetra dan mempekerjakan manusia untuk melewati CAPTCHA atas nama GPT-4.
Peter Park menekankan tantangan melatih AI yang jujur. Tidak seperti perangkat lunak tradisional, sistem AI pembelajaran mendalam “berkembang” melalui proses yang mirip dengan pembiakan selektif.
Perilaku mereka mungkin dapat diprediksi selama pelatihan, namun kemudian menjadi tidak terkendali.
"Studi ini mendesak untuk mengklasifikasikan sistem AI yang menipu sebagai sistem yang berisiko tinggi dan memerlukan lebih banyak waktu untuk bersiap menghadapi penipuan AI di masa depan," ungkap dia.
