Berita / Jenggi /

U-distopia (6)

U-distopia (6)

ilustrasi. foto: Film M3Gan ©Blumhouse/Universal Pictures


Alkisah, gadis belia bernama Cady baru saja terlibat kecelakaan mobil bersama keluarganya, ia segera menjadi yatim piatu. 

Cady dikirim untuk tinggal bersama bibinya Gemma, seorang ahli robotik di perusahaan mainan Seattle berteknologi tinggi, Funki. Sebuah kecelakaan sejarah masa depan baru saja dimulai.

Cady kesepian dan murung, ia butuh sesuatu untuk menggantikan posisi orangtuanya, dan itu tidak didapat dari Gemma yang gila kerja. 

Gemma secara diam-diam menggunakan sumber daya perusahaan untuk mengembangkan M3GAN (Model 3 Generative Android); boneka robot humanoid seukuran manusia yang ditenagai kecerdasan buatan (AI), dirancang untuk menjadi pendamping terbaik bagi anak mana pun yang dipasangkan dengannya. Mainan tersebut segera menjadi milik Cady.

Ini adalah plot sebuah film yang baru saja tayang di bioskop berjudul M3GAN. Hampir mirip film Annabelle (2014) tentang boneka jahat berkekuatan supranatural, kali ini adalah tentang bagaimana sebuah teknologi mengamuk.

M3GAN melebihi ekspektasi sebagai teman dan mengambil alih tugas sebagai orang tua serta dukungan emosional. Sebagaimana cara kerja teknologi AI, M3GAN menganalisis emosi dan kebutuhan psikis Cady melalui tampilan teks di layar retinanya, selain jawaban akurat atas banyak pertanyaan hingga menyentuh ke soal-soal filosofis dan futuristik, hal yang tidak mungkin dilakukan manusia. 

Baca juga: U-distopia (5)

M3GAN mulai beroperasi secara lebih mandiri dan menargetkan apa pun yang dianggap sebagai ancaman bagi Cady. Dia membunuh anjing Celia milik tetangga Gemma setelah anjing itu menyerangnya dan menggigit Cady. 

Dia kemudian merobek telinga pengganggu Cady, Brandon, dan mengejarnya hingga tewas tertabrak, sebelum banyak pembunuhan lainnya untuk mengekalkan hubungan emosional posesifnya bersama Cady.

Boneka cerdas ini harus berakhir tragis ketika otaknya ditusuk oleh Cady sendiri, padahal sebelumnya ia hanya meng-copy dan mengelaborasi semua fantasi dan gejolak kekanak-kanakan Cady, lalu melindunginya secara brutal, ketika ke dalam otaknya tidak disuntikkan aspek-aspek moral. 

Ironisnya, bahkan ia mampu berargumen tentang pola perlindungan anak manusia yang sulit dibantah oleh Gemma, penciptanya.

M3GAN adalah sebuah kecelakaan, tentang prediksi-prediksi negatif ketika mesin AI dihubungkan secara personal dengan masuk ke bagian terjahat hati manusia, kemudian membantu menjadikannya sebagai realita. 

Cady bisa jadi punya sisi tersembunyi sebagai gadis brutal yang terkurung dalam tubuh anak berusia 10 tahun.

Kecerdasan buatan yang bersifat mandiri akan menjadi celah bagi manusia untuk berdalih, guna membela martabat kemanusiaannya. 

Ketika sebuah kejahatan dilakukan oleh mesin, dan mesin itu secara logika tidak punya motif, maka motif itu bisa saja menyelinap di dalam otak penggunanya, tanpa ia sadari namun dapat dideteksi oleh kecerdasan AI.

Seperti kata Einstein, kemajuan teknologi seperti kapak di tangan seorang penjahat patologis. Jelas menjadi menggemparkan bahwa teknologi telah melampaui kemanusiaan kita, sebutnya di lain waktu. 

Teknologi AI memang telah melampaui kemanusiaan kita, namun apakah postulat Martin Heidegger akan menjadi sepenuhnya: teknologi adalah instrumen yang harus bisa dikendalikan.

M3GAN menjadi contoh bahwa teknologi telah melampaui eksistensinya sebagai instrumen yang bisa dikendalikan. Seperti senjata api, teknologi AI yang berpotensi mematikan kendati hanya dalam bentuk boneka cerdas, tidak bisa diberikan ke sembarang orang. 

Manusia harus memverifikasi potensi-potensi distruktif di dalam dirinya, ketika akan berhubungan dengan kecerdasan nirbatas.

Ada dua syarat agar teknologi bisa berkawan dengan manusia dalam melanjutkan mimpi utopia, pertama adalah Friendly Artificial Intelligence, AI yang terkendali akan memiliki efek positif (jinak) pada kemanusiaan atau setidaknya selaras dengan kepentingan manusia atau berkontribusi untuk mendorong peningkatan spesies manusia.

Kedua, Human Oritented, Teknologi AI harus tetap dikendalikan demi memenuhi kebutuhan manusia dalam segala dimensi, bukan sebaliknya. 

Tidak ada opsi mundur dalam akselerasi teknologi, dan kedua syarat tersebut bisa jadi sekaligus adalah utopia itu sendiri. 

Kita sedang berjalan menuju penyatuan biotech (teknologi yang berada di dalam sistem biologi manusia) dan infotech (teknologi berbasis big data yang dioperasikan secara algoritmatik). 

Namun apakah itu akan seperti M3GAN, indah pada mulanya dan tragis di babak akhir. Mulailah mematut-matut apa potensi destruktif yang sedang bersarang di dalam diri kita, sebelum memutuskan terhubung ke sistem AI, yang suatu saat akan memproyeksikan kejahatan tersembunyi kita secara brutal. 

Jika ada nyamuk, jangan kelambunya yang dibakar. Kita sangat membutuhkan teknologi AI untuk menyelesaikan problema kemanusiaan kita; human error, distorsi moral, keterbatasan fisik, wabah penyakit, perubahan iklim, krisis pangan, dan objek-objek kejahatan siber. 

Manusia tidak bisa sendiri untuk menapaki hari-hari esok, mereka akan memakan buah simalakamanya sendiri. 


 

Muhammad Natsir Tahar
Komentar Via Facebook :