Pencipta ChatGPT Ingatkan Bahaya Kecerdasan Buatan
- vstory
VIVA Tekno – Kecerdasan buatan (AI/artificial intelligence) memiliki potensi untuk menggantikan pekerja, menyebarkan disinformasi dan mengaktifkan serangan siber, kata CEO OpenAI, Sam Altman. Teknologi terbaru dari program GPT OpenAI dapat mengungguli kebanyakan manusia pada tes simulasi.
"Kita harus berhati-hati di sini," kata Altman, dua hari setelah perusahaannya meluncurkan model bahasa terbarunya yang diberi nama GPT-4, menurut situs Russian Today, Selasa, 21 Maret 2023.
Menurut OpenAI, model tersebut menunjukkan kinerja tingkat manusia pada berbagai tolok ukur profesional dan akademik serta mampu lulus ujian ujian AS yang disimulasikan dengan skor 10 persen teratas, tampil di urutan ke-93 pada ujian membaca SAT dan ke-89 pada tes matematika SAT.
“Saya sangat khawatir model ini dapat digunakan untuk disinformasi skala besar. Sekarang setelah itu menjadi lebih baik dalam menulis kode komputer, AI dapat digunakan untuk serangan cyber ofensif," imbuhnya.
Dia berpikir orang-orang seharusnya senang bahwa perusahaan sedikit takut akan hal ini. Altman menambahkan bahwa perusahaannya sedang berupaya untuk menerapkan batas keamanan pada teknologinya.
IIustrasi ChatGPT.
- pixabay.com
Batas keamanan yang ia bicarakan baru-baru ini menjadi jelas bagi pengguna ChatGPT, program chatbot populer berdasarkan pendahulu GPT-4, GPT-3.5.
Saat ditanya, ChatGPT biasanya menawarkan respons liberal untuk pertanyaan yang melibatkan politik, ekonomi, ras, atau gender. Misalnya, AI akan menolak untuk membuat puisi yang mengagumi Donald Trump, tetapi dengan rela menulis prosa yang mengagumi Joe Biden.
Altman mengatakan bahwa perusahaannya melakukan kontak rutin dengan pejabat pemerintah, tetapi tidak merinci apakah pejabat tersebut berperan dalam membentuk preferensi politik ChatGPT.
Dia mengatakan bahwa OpenAI memiliki tim pembuat kebijakan yang memutuskan apa yang menurut mereka aman dan baik untuk dibagikan kepada pengguna.
Saat ini GPT-4 tersedia untuk sejumlah pengguna terbatas sebagai uji coba. Laporan awal menunjukkan bahwa model tersebut secara signifikan lebih kuat dari pendahulunya, dan berpotensi lebih berbahaya.
