Elon Musk dan 1.000 Pakar Blokir AI, Sangat Berbahaya
- Richard Drew
VIVA Tekno – Lebih dari 1.000 pakar kecerdasan buatan, peneliti, dan pendukung telah bergabung dalam seruan untuk segera menghentikan pembuatan 'raksasa AI', setidaknya hanya sementara, selama enam bulan sehingga kemampuan dan bahaya sistem seperti GPT-4 dapat dipelajari dan dimitigasi dengan baik.
Tuntutan tersebut dibuat dalam surat terbuka yang ditandatangani oleh pemain AI utama termasuk Elon Musk yang ikut mendirikan OpenAI, laboratorium penelitian yang bertanggung jawab atas ChatGPT dan GPT-4, Emad Mostaque, Pendiri Stability AI yang berbasis di London dan Steve Wozniak, salah satu pendiri Apple.
Penandatangan juga termasuk kepada tokoh insinyur dari Amazon, DeepMind, Google, Meta dan Microsoft, serta akademisi termasuk ilmuwan kognitif Gary Marcus, menurut laman The Guardian, Jumat, 31 Maret 2023.
“Beberapa bulan terakhir kita telah melihat laboratorium AI terkunci dalam perlombaan di luar kendali untuk mengembangkan dan menyebarkan pikiran digital yang semakin kuat yang tidak seorang pun –bahkan pembuatnya– dapat memahami, memprediksi atau mengontrol dengan andal,” kata surat itu.
“Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola," lanjutnya.
Para penulis yang dikoordinasikan oleh thinktank "longtermist", Future of Life Institute, mengutip perkataan dari salah satu Pendiri OpenAI Sam Altman untuk membenarkan seruan mereka.
Elon Musk bersama CEO OpenAI, Sam Altman.
- Getty Images
Dalam sebuah posting dari bulan Februari, Altman menulis, “Pada titik tertentu, mungkin penting untuk mendapatkan tinjauan independen sebelum mulai melatih sistem masa depan, dan untuk upaya paling maju untuk membatasi tingkat pertumbuhan komputasi yang digunakan guna membuat model baru,” kata Altman.
Di surat itu tertulis bahwa mereka setuju bahwa titik tersebut adalah di waktu sekarang. Jika para peneliti tidak secara sukarela menghentikan pekerjaan mereka pada model AI yang lebih kuat daripada GPT-4, maka pemerintah harus turun tangan.
“Ini tidak berarti jeda pada pengembangan AI secara umum, hanya langkah mundur dari perlombaan berbahaya dan tidak dapat diprediksi dengan kemampuan baru,” tambah mereka.
Sejak GPT-4 dirilis, OpenAI telah menambahkan kemampuan ke sistem AI dengan "plugin", memberikannya kemampuan untuk mencari data di web terbuka, merencanakan liburan, bahkan memesan bahan makanan.
Tetapi perusahaan harus berurusan dengan kemampuan dari teknologi yang mereka ciptakan, menjadi masalah karena sistemnya sendiri lebih kuat daripada yang diketahui saat dirilis.
Saat peneliti bereksperimen dengan GPT-4 selama beberapa minggu dan bulan mendatang, mereka kemungkinan besar akan menemukan cara baru untuk mendorong sistem meningkatkan kemampuannya memecahkan masalah yang sulit.
