AI Berbahaya, Google hingga Microsoft Cuek Aja

VIVA Tekno – Pada pertengahan Maret tahun ini, Microsoft diketahui memberhentikan alias PHK seluruh tim etika organisasi kecerdasan buatan (AI/artificial intelligence) yang mempengaruhi 10.000 karyawannya.

Langkah tersebut membuat Microsoft tidak mempunyai tim khusus untuk memastikan prinsip-prinsip AI yang terkait erat dengan desain produk pada saat perusahaan berkeinginan menjadi pemimpin dalam AI, menurut mantan karyawan.

Perusahaan dikatakan masih mempertahankan kantor AI yang bertugas membuat aturan dan prinsip untuk mengatur inisiatif AI Microsoft. Perusahaan mengatakan investasi keseluruhannya dalam pekerjaan tersebut tetap meningkat meskipun ada PHK.

"Microsoft berkomitmen untuk mengembangkan produk dan pengalaman AI yang aman dan bertanggung jawab, dan melakukannya dengan berinvestasi pada manusia, proses, dan kemitraan yang memprioritaskan ini," kata perusahaan itu dalam sebuah pernyataan.

“Selama enam tahun terakhir, kami telah meningkatkan jumlah orang di seluruh tim produk kami dan di dalam Kantor Penanggung Jawab AI. Kami semua di Microsoft bertanggung jawab untuk memastikan bahwa kami menerapkan prinsip AI. Kami menghargai pekerjaan luar biasa yang dilakukan oleh Ethics & Society untuk membantu dalam perjalanan AI kami yang bertanggung jawab,” jelas perusahaan.

Karyawan mengatakan bahwa tim etika dan masyarakat memainkan peran penting dalam memastikan prinsip AI Microsoft yang bertanggung jawab, yang tercermin dalam desain produk yang dibangun.

"Tugas kami adalah membuat aturan di area yang sebelumnya tidak ada," kata mereka. Kelompok kerja tersebut telah bekerja untuk mengidentifikasi risiko yang ditimbulkan oleh adopsi teknologi OpenAI oleh Microsoft di seluruh rangkaian produknya.

Tim etika dan masyarakat mencapai puncaknya pada tahun 2020 ketika memiliki sekitar 30 karyawan termasuk insinyur, desainer, dan filsuf. Pada bulan Oktober, tim dikurangi menjadi sekitar tujuh orang sebagai bagian dari reorganisasi.

Dalam pertemuan dengan tim, John Montgomery, Wakil Presiden AI memberi tahu karyawan bahwa pimpinan perusahaan telah menginstruksikan mereka untuk bergerak cepat.

"Tekanan dari (CTO) Kevin Scott dan (CEO) Satya Nadella, sangat, sangat tinggi untuk mengambil model OpenAI terbaru ini dan yang datang setelahnya dan memindahkannya ke tangan pelanggan dengan kecepatan yang sangat tinggi," ujarnya.

Seorang karyawan mengatakan langkah tersebut meninggalkan celah mendasar pada pengalaman pengguna dan desain holistik produk AI. Hal buruknya adalah raksasa teknologi itu akan mengekspos bisnis ke dalam risiko.

Konflik tersebut menggarisbawahi ketegangan berkelanjutan bagi raksasa teknologi yang membangun divisi yang didedikasikan untuk membuat produk mereka lebih bertanggung jawab secara sosial.

Namun, seharusnya tim tersebut ada untuk membantu tim produk mengantisipasi potensi penyalahgunaan teknologi dan memperbaiki masalah apa pun sebelum dikirimkan ke konsumen.

Pada 2020, Google juga memecat peneliti etika AI Timnit Gebru setelah dia menerbitkan makalah yang mengkritik model bahasa besar yang akan meledak menjadi popularitas dua tahun kemudian.

Kehebohan yang diakibatkannya mengakibatkan kepergian beberapa pemimpin puncak di dalam departemen dan mengurangi kredibilitas perusahaan dalam masalah AI yang bertanggung jawab.

Anggota tim etika dan masyarakat mengatakan bahwa mereka berusaha mendukung pengembangan produk. Tetapi ketika Microsoft fokus pada pengiriman alat AI lebih cepat ke masyarakat daripada para pesaingnya, perusahaan menjadi kurang tertarik pada jenis pemikiran jangka panjang yang menjadi spesialisasi tim.

Ini adalah dinamika yang harus dicermati dengan cermat. Di satu sisi, Microsoft sekarang mungkin memiliki peluang untuk mendapatkan daya tarik yang signifikan terhadap Google dalam pencarian, perangkat lunak produktivitas, komputasi awan, dan area lain tempat para raksasa bersaing.

Saat meluncurkan kembali Bing dengan AI, perusahaan mengatakan kepada investor bahwa setiap 1 persen pangsa pasar yang dapat diambil dari Google dalam pencarian akan menghasilkan pendapatan tahunan sebesar US$2 miliar.

Di sisi lain semua orang yang terlibat dalam pengembangan AI setuju bahwa teknologi tersebut menimbulkan risiko yang kuat, baik yang diketahui maupun yang tidak diketahui.

Microsoft telah bersusah payah untuk memberi sinyal bahwa mereka menangani risiko tersebut dengan serius karena memiliki tiga kelompok berbeda yang menangani masalah ini, bahkan setelah tim etika dan masyarakat disingkirkan.

Namun mengingat taruhannya, PHK apa pun pada tim yang berfokus pada pekerjaan yang bertanggung jawab terhadap AI, tampaknya patut diperhatikan.

Penghapusan tim etika dan masyarakat terjadi tepat ketika karyawan grup yang tersisa telah melatih fokus mereka pada tantangan terbesar yakni mengantisipasi apa yang akan terjadi ketika Microsoft merilis Bing ke khalayak global.

Diet Murah tapi Efektif? Ini Dia Makanan Penurun Berat Badan yang Bisa Anda Coba!

Temukan makanan penurun berat badan yang terjangkau namun efektif. Dapatkan hasil maksimal dari makanan sehat seperti ubi jalar, timun, dan telur yang mudah ditemukan di

VIVA.co.id

22 November 2024