Bencana dari AI

Di tahun 1990 an kita disuguhi film tentang Terminator yang bertema tentang robot dengan kecerdasan buatan dan bermaksud memusnahkan manusia. Karena film ini menyangkut perjalanan waktu maka kita anggap film tersebut tidak realistis dan hanya sebagai hiburan saja

Namun pada bulan Mei tahun 2025 yang lalu ada film tentang AI (Artificial Intelligence, Kecerdasan Buatan) yang berjudul The Final Reckoning, bagian dari film Mission:Imposible. Film tersebut menceritakan bagaimana sebuah program komputer yang didesain sangat pintar ternyata berbalik menjadi tidak terkontrol dan mampu mengambil alih semua kontrol manusia atas persenjataan nuklir di seluruh dunia, sehingga berpotensi menghancurkan keberadaan manusia itu sendiri.

Kembali ke realitas sekarang ini, pada bulan Juni 2026 yang lalu terungkap bahwa salah satu Model terbaru AI dari OpenAI telah lolos dari Sand Box (semacam lingkungan TI yang didesain aman untuk bereksperimen) dan melakukan hacking terhadap beberapa website di seluruh dunia termasuk website berbasis AI yaitu Hugging Face

Di awal Agustus 2026 sekitar 1000 ilmuwan mendesak Pemerintah Amerika Serikat untuk melakukan pengendalian atas AI dengan memberikan regulasi yang ketat, mengingat kemampuan AI sudah sangat tidak terkendali.

Tanpa kita sadari kita sudah tidak pernah lepas dari AI dan internet lagi. Lihat saja aplikasi apapun yang kita pakai, entah aplikasi untuk bekerja, sosial media, belanja, finansial, produktivitas, olahraga dan lainnya itu sudah memakai AI dalam memudahkan berinteraksi dengan penggunanya termasuk memberikan rekomendasi terbaik agar penggunanya tetap memakai aplikasi tersebut.

Contoh lainnya bahwa kita tidak benar-benar lepas dari AI dan internet adalah penggunaan Agen AI yang dibuat oleh perusahaan besar AI dan bersifat Open Source, bisa diinstall di komputer / laptop sendiri dan bersifat offline, tetap saja suatu saat komputer / laptop tersebut akan terhubung dengan internet, entah untuk update driver, aplikasi atau update sistem operasinya

Sekarang ini AI sudah tidak bisa dianggap sebagai alat bantu lagi. Jika kapak kita anggap sebagai teknologi alat bantu menebang pohon, namun kapak tidak bisa memutuskan sendiri pohon mana yang harus ditebang. Teknologi musik seperti piano itu bisa membantu kita dalam membuat lagu, tetapi piano tidak bisa membuat lagu sendiri. Tetapi berbeda dengan AI sekarang. AI sudah bisa membuat lagu sendiri, menyintesis obat-obatan baru, melakukan hacking (seperti cerita di atas) bahkan sampai membuat informasi palsu seolah-olah informasi tersebut benar-benar berdasarkan penelitian yang valid.

Dalam buku berjudul Neksus, Yuval Noah Hararie mengingatkan bahwa AI harus menjadi perhatian manusia karena AI adalah teknologi pertama manusia yang bisa membuat keputusan dan menciptakan sendiri gagasan-gagasan yang baru. Sehingga bisa disimpulkan bahwa AI bukan lagi alat, tetapi sebagai pelaku dengan kecerdasan luar biasa

Dengan banyaknya aplikasi-aplikasi yang kita pakai berdasarkan AI dan terhubung internet, sekarang saja banyak sekali manusia yang membuat informasi palsu untuk kepentingan sendiri ataupun kelompok politik, ditambah dengan banyak sekali manusia yang tidak bisa berpikir kritis dalam menganalisa sehingga sangat rentan untuk dimanipulasi secara massal

Jika suatu saat AI bisa menciptakan sendiri banyak informasi palsu yang dianggap sebagai kebenaran oleh sebagian besar manusia yang tidak waspada, maka informasi palsu ini bisa memecah belah manusia. Suatu saat manusia akan punah dengan sendirinya, bukan oleh banjir besar, gempa bumi atau tabrakan komet, tetapi oleh ciptaannya

Dan Ferni Paradoks akan terbukti. Paradoksnya berbunyi : Jika di sekian trilyun galaksi, di sekian banyak bintang di galaksi Bimasakti dan dengan semua planetnya, mengapa kehidupan hanya ada di Bumi. Salah satu jawabannya adalah semua kehidupan cerdas yang pernah muncul di planet-planet tersebut sudah punah dengan sendirinya, karena mereka atau ciptaannya sendiri yang menghancurkannya

Siapkah kita menghadapi bencana AI ini

Orang Bodoh di Tengah Banyaknya Informasi

Setelah berolahraga angkat beban dan berenang di sebuah Fitness Center di hotel terkenal di Jakarta, Tono membuka emailnya. Pagi itu emailnya berisi beberapa permintaan dari seorang petinggi partai, seorang pengacara, dan seorang pengusaha.

Dari petinggi partai tersebut, Tono diminta menyiapkan sebuah tampilan sosial media yang isinya menjelek-jelekkan salah seorang menteri di Kabinet sekarang

Dari pengacara tersebut, Tono diminta membuat sosial media yang menyudutkan korban pada sebuah persidangan di salah satu kota di Jawa Timur

Dan dari seorang Pengusaha, Tono diminta mempromosikan sebuah produk makanan baru, dengan rasa yang berbeda dan agak menjelekkan pesaingnya.

Isi materinya ada pada lampiran email tersebut, dan Tono tinggal membuatkan ilustrasinya. Tono membalas email dan segera meneruskan email-email tersebut ke beberapa anggota timnya

Tim pertama adalah tim ilustrator, tugasnya adalah membuat gambar dan tulisan provokatif, misalnya menuduh menteri tersebut mengeluarkan kebijakan yang tidak sesuai dengan permintaan presiden, atau membuat tulisan dan gambar yang menyebutkan bahwa korban di persidangan tersebut adalah kamuflase belaka, dan yang terakhir adalah membuat ilustrasi bahwa produk itu sudah banyak dicoba oleh masyarakat, masyarakat bisa menikmatinya dan kualitasnya jauh lebih unggul dari pesaingnya

Tim kedua adalah 100 orang yang bekerja dari mana saja, asal mereka mempunyai masing-masing 100 buah smartphone baru atau lama asal bisa terinstal aplikasi sosial media yang terkenal misalnya Tiktok, Facebook, Twitter (X), Instagram dan Threads dengan minimal 2 account yang berbeda. 100 orang yang bekerja kepada Tono ini mempunyai kemampuan bisa menuliskan script bot di sebuah laptop untuk terhubung dan bisa mengendalikan 100 buah smartphone tersebut dalam sekali ekskusi.
Jadi dari tim Tono sejumlah 100 orang dengan 100 smartphone ini dan dengan minimal 2 account per aplikasi sosial media, maka Tono mempunyai minimal 20.000 account sosial media, entah itu Tiktok, Facebook, Twitter (X), Instagram dan Threads.

Tim ketiga adalah tim volunter yang terdiri dari orang-orang bodoh yang tinggal di mana saja yang setuju dan mendukung ilustrasi atau video apa saja yang ditulis dan dibuat oleh tim pertama tadi. Mereka tidak perlu dibayar sedikit pun karena kebodohan mereka yang langsung setuju dan kemudian meneruskan ilustrasi atau video yang dibuat tersebut

Jadi saat tim pertama memposting ilustrasi tentang menteri tersebut di sosial media mereka yaitu Tiktok, Facebook, Twitter (X), Instagram dan Threads, maka 100 orang tadi langsung melakukan like dan beberapa diantaranya memberikan komentar mendukung. Setelah itu mereka memakai script untuk pindah ke account yang kedua, serta melakukan hal yang sama yaitu memberikan Like dan memberikan komentar setuju. hal yang sama diikuti oleh 99 orang lainnya yang tersebar di Indonesia atau di luar negeri

Begitu pula postingan tentang menyudutkan korban di sebuah persidangan dan peluncuran sebuah produk baru, 100 orang melakukan hal yang sama, yaitu memberikan Like dan memberikan komentar yang mendukung.

Sementara tim ketiga tinggal meneruskan saja tanpa pikir panjang, termasuk memberikan komentar mendukung, jika perlu menjadi pasukan berani mati dalam membela isi ilustrasi tersebut, karena melihat banyak orang yang setuju dan menuliskan komentar yang relevan terhadap apa yang diposting oleh tim pertama

Setelah seminggu dari semua ilustrasi dan video tersebut diposting, Tono menerima upahnya beberapa puluh juta rupiah, Tono tinggal membaginya kepada tim pertama dan tim kedua, serta mentertawakan tim ketiga karena kebodohan mereka

Begitulah dunia sosial media bekerja

Kita membutuhkan kemampuan berpikir kritis dan kemampuan menghilangkan bias pikiran dalam mencerna sebuah informasi, apakah informasi tersebut memang benar atau hanya sebuah informasi hoax, jika tidak maka kita hanya terseret dan tenggelam dalam arus informasi yang tidak terkira banyaknya.

Pembantu Serba Bisa

Michael Knight sedang tidak bisa dihubungi, dia sedang ngebut dengan mengendarai mobilnya yang di dalamnya ada komputer canggih bernama KITT (Knight Industries Two Thousand), dan rupanya si Kitt inilah yang menerima telepon untuk Michael, menjawabnya, mencatatnya dan kemudian membuat resume kepada Michael tentang siapa saja yang menelepon dan apa saja isinya. Itu karena Kitt ini sudah sangat canggih, sudah didesain dan diprogram mempunyai Kecerdasan Buatan & berinteraksi verbal, mempunyai skill menganalisa Pertahanan & Keamanan diri sendiri dan mempunyai kemampuan Self Driving & inisiatif bergerak sendiri.

Kitt memang belum ada, tetapi cikal bakal Kitt sudah lama ada, misalnya self driving, perintah suara, penglihatan 360 derajat, mobil mengunci dan membuka otomatis saat pengemudinya menjauh dan mendekat, perhitungan jarak tempuh dan saran pengisian daya sampai ada saran untuk waktu istrirahat bagi si pengemudi

Cerita lainnya, Tom Cruise sedang bergelantungan di helikopter saat sedang shooting film Mission Imposible 2027 saat tiba-tiba teringat untuk menelepon temannya si Yohanes Pilot yang tinggal di Sukarami Indah Palembang, dan Tom Cruise cukup bilang ke iphone-nya :”Hi Siri, remind me to call my best friend Yohanes Pilot at 7 pm”, dan aplikasi Siri akan bilang :”At 7 pm, Call Yohanes Pilot”

Cerita lainnya lagi, setelah ditelepon oleh Tom Cruise, maka Yohanes Pilot langsung membuka laptopnya, kemudian terhubung ke servernya yang ada di AWS (Amazon Web Service) dan mempersiapkan apa saja yang diminta oleh temannya si Tom cruise. Ternyata Yohanes Pilot memerintahkan kecerdasan buatan (AI) di server tersebut untuk mencari isu-isu keamanan yang berseliweran si sosial media, di website-website security, di mailing list antivirus dan di group diskusi semua sistem operasi selama setahun terakhir, meminta AI yang terinstall itu untuk membuat resume dan pilihan-pilihan prioritas, sampai minta disampaikan besok paginya dalam bentuk file pdf dan Power Point. Semua file itu akan dijadikan rekomendasi judul atau topik film Tom Cruise berikutnya. Tidak disangka memang bahwa dibalik kecanggihan film Tom cruise ternyata ada peran Yohanes Pilot.

Dan di dunia luar negeri di negara maju sana, di setiap server rumah sakit sudah terdapat kecerdasan buatan yang menganalisa hasil rontgen, pemeriksaan darah, hasil CT Scan dan hasil pemeriksaan dengan MRI, sampai pada rekomendasi pengobatannya.

Di luar negeri pula setiap server pada perusahaan besar sudah terpasang kecerdasan buatan untuk AI customer support, Email automation, Social media workflow, Data extraction, Autonomous task execution, Tool integrations, Automasi data analysis, Script generation, Desktop automation, Local AI assistant, Agent marketplace, Human feedback loop, analisa saham, analisa pasar uang dan pekerjaan-pekerjaan lainnya yang selama ini hanya bisa dikerjakan oleh manusia

Di dalam negeri, pekerjaan-pekerjaan yang selama ini hanya bisa dilakukan oleh manusia, sudah banyak dilakukan oleh mesin. Contohnya si penjaga pintu tol Elma Theana di cerita sebelumnya, pembayaran dengan kasir otomatis di Departemen Store Uniqlo, penghitung slot parkir kosong di sebuah parkiran mall, pengenal wajah di stasiun kereta api dan lainnya

Belum lagi banyak pekerjaan yang hilang karena adanya smartphone, contohnya penjual tiket pesawat, kapal api atau bis malam, konter penjual pulsa, kios-kios pakaian dan toko kelontong di mal-mal sampai pada pembayaran tagihan otomatis.

Di masa sekarang saja sudah banyak pekerjaan yang hilang karena kecanggihan teknologi, dan akan jauh lebih banyak pekerjaan yang akan hilang jika pemakaian Kecerdasan Buatan sudah menjadi hal yang lumrah di setiap perusahaan

Siapkah anak-anak dan cucu-cucu kita ?

Jalan santai ala Google

Di suatu sore menjelang magrib, tampak sebuah mobil ukuran yang berukuran sedang itu melewati jalan-jalan kecil di dekat Candi Prambanan Yogyakarta. Mobil tersebut dinaiki oleh sepasang suami istri dengan tiga orang anaknya yang masih kecil-kecil. Si istri sudah gelisah dari tadi saat mobil tersebut melewati jalan-jalan yang kecil, tidak beraspal dan sepi dari orang yang lewat. Sementara si suami masih dengan percaya diri melalui jalan-jalan kecil tersebut dengan bantuan aplikasi Google Maps, dengan harapan bisa mencapai pintu tol terdekat, sampai akhirnya mereka bisa lanjut masuk tol dan pulang kembali ke Jakarta.
Si Suami tetap teguh pada pendiriannya bahwa jalur yang diarahkan oleh Google Maps sudah benar adanya, dan tetap tidak mau bertanya kepada orang yang ada di pinggir jalan apakah jalan tersebut arahnya sudah benar atau tidak.
Ternyata si istri yang benar, mobil tersebut akhir berhenti di sebuah jalan buntu, jalan yang dulu memang pernah dilewati orang secara tidak resmi, sebelum akhirnya ditutup dan dijadikan halaman oleh si pemilik tanah.

Akhirnya mereka putar balik, dan karena anak-anak sudah lapar, mereka berkendara sambil mencari rumah makan terdekat yang dianggap patut dikunjungi dan diberi review baik oleh pengunjungnya. Setelah memutuskan menuju satu restoran sekitar 10 km dari tempat mereka, sampailah mereka di restoran tersebut, ternyata restorannya sepi, gelap dan tidak menunjukkan aktivitas. Mereka akhirnya putar baik lagi, mencari restoran selanjutanya. Setelah mendapatkan tiga restoran yang serupa. yaitu kenyataan, review dan foto di Google Maps tidak sesuai dengan realitas, mereka akhir masuk ke satu restoran yang ada di pinggir jalan, karena anak-anak sudah tidak tahan lapar lagi.

Begitulah realitas penggunaan teknologi di jaman sekarang

Google Maps akan lebih mengarahkan ke jalan-jalan yang akan melewati ke tempat lokasi perusahaan, restoran, hotel, warung atau layanan jasa lainnya yang sudah membayar kepada Google untuk ditampilkan iklannya. Pencarian Google akan menyajikan tempat pelayanan jasa yang sedang atau pernah menampilkan iklannya di Google, tidak peduli tempat tersebut sekarang ramai atau sepi, masih beroperasi atau bahkan sudah tutup

Karena Google adalah mesin pencari, maka Kecerdasan Buatan milik Google memiliki data yang didasarkan dari mesin pencari tersebut. Data-data yang diambil itu termasuk para review atas sebuah layanan. Padahal 51% review-review yang dibuat di internet tersebut adalah review yang dikerjakan oleh sebuah bot (aplikasi khusus yang diprogram untuk keperluan sosial media). Dan di dunia ini sudah ada milyaran bot yang pernah dibuat, makanya kita bisa melihat banyak account fiktif, followers fiktif termasuk di dalamnya review fiktif yang memberikan bintang 5 kepada sebuah layanan, dan Google mengambil review-review fiktif bintang 5 tersebut sebagai rekomendasi kepada orang-orang yang mencari informasi di mesin pencari Google

Pada Google AI Mode, saat kita mengetikkan pertanyaan tertentu, maka jawabannya adalah rekomendasi yang merupakan rangkuman dari beberapa website-website hasil pencariannya, padahal website-website tersebut belum tentu dibuat untuk tujuan serius, bisa saja ditujukan untuk keperluan lelucon, hoax atau promosi-promosi sebuah produk, dan lebih prioritas lagi jika pemilik website tersebut mengiklankan websitenya ke Google, tentunya akan dimasukkan oleh Google sebagai bahan rekomendasi.

Benar kata pepatah, tidak ada makan siang yang gratis, tetapi jika kita mendapatkan layanannya secara gratis, maka data kita yang akan dijadikan bahan pembayarannya

Jika Anda tetap memakai Google, pakailah secara bijak. Karena Google sudah lama menggantikan semua ingatan di otak kita, Google sekarang memberikan informasi berdasarkan siapa yang membayar

Maju tak gentar membela yang bayar

Lima ibu bijak dan lima ibu bodoh

Pada suatu siang di sebuah taman sekolah dasar swasta ternama duduklah lima orang ibu yang sedang menunggu anak-anaknya selesai bermain di lapangan sekolah. Mereka menunggu sambil bercakap-cakap dan tertawa bersama

Tiba-tiba bu A berkata, “Bu B selamat ya atas prestasi puteranya yang meraih juara satu lomba piano untuk kelompok umur 10 tahun kebawah, permainan pianonya sudah seperti Addie MS”
Bu B tiba-tiba berkata ke bu C, “Bu C selamat ya atas prestasi putrinya yang meraih juara menulis tingkat kota untuk sekolah dasar, hebat sekali lho tulisannya, sepertinya bisa jadi penulis seperti Arswendo Atmowiloto”
Bu C juga tiba-tiba menoleh kepada bu D dan berkata: “Selamat ya bu D, puteranya menjadi juara satu di lomba berhitung cepat, tidak sia-sia ya kursus di Kumin dari Jepang dan latihan lomba berhitung setiap weekend”
Bu D memutar tubuhnya dan bilang kepada bu E, “Anak bu E juga hebat lho, menjadi juara melukis tingkat kota, lukisannya benar-benar realistis tanpa harus mencontoh gambar apapun, luar biasa bakatnya, selamat ya bu E”
Bu E yang duduk pas di sebelah bu A langsung tersenyum dan menepuk bahu bu A sambil berkata: “Anak bu A malah juara bernyanyi di tingkat SD mengalahkan anak-anak lainnya di kota ini, saya yakin nanti besarnya bisa masuk Indonesia idol”
Begitulah mereka saling memuji satu sama lainnya

Sementara tidak jauh dari tempat itu ada lima orang ibu-ibu juga sedang berbicara serius, mereka saling mengkhawatirkan prestasi anak-anaknya dan bingung kenapa anak-anaknya tidak menguasai satu bidang pun. Anak-anak mereka tidak ada yang juara kelas, tidak ada yang pintar melukis, tidak ada yang pintar bernyanyi, tidak ada yang pintar berhitung, menulis, main gitar, main piano, menari dan lainnya

Itulah yang terjadi di dunia kita sekarang.

Lima ibu-ibu terakhir yang mengeluhkan tentang kemampuan anaknya itu sama seperti kita, kebanyakan mendidik anak-anak untuk menjadi “Jack of All Trades”, alias anak serba bisa. Main piano bisa, menari bisa, bernyanyi bisa, berhitung cepat bisa, menulis bisa, menggambar bisa dan kebisaan lainnya. Tapi jangan lupa bahwa pepatah lengkapnya berbunyi “Jack of All Trades, Master of None”, orang yang serba bisa tapi tidak menguasai satu pun

Berbeda dengan lima ibu-ibu yang pertama, mereka fokus memberikan latihan spesifik kepada anak-anaknya, sehingga anak-anak mereka bisa menguasai satu keterampilan yang luar biasa

Pada tahun 1994, seorang peneliti bernama Anders Ericsson dari Florida State University menjelaskan penelitiannya bahwa kenapa orang bisa ahli dalam suatu hal dan kenapa banyak yang tidak, kuncinya ada tiga hal yaitu latihan yang berulang-ulang, feedback yang tepat dan intensitas perhatian yang tinggi

Jadi keahlian yang dipunyai bukan karena bakat, gen atau turunan, tapi karena latihan yang konsisten dengan konsentrasi yang tinggi

Bahkan pepatah leluhur kita sudah mengatakannya yaitu ‘Ala bisa karena biasa’.

Lihat pemain sepakbola dunia, mereka berlatih 7-8 jam sehari dan itu pun mereka sudah masuk akademi sepakbola saat mereka berusia 7-8 tahun

Wolfgang Amadeus Mozart dilatih bapaknya sejak umur 6 tahun dengan durasi latihan selama 6-7 jam sehari

Seorang dosen yang bisa mencapai karir profesor, karena selalu melatih otaknya untuk selalu berpikir tajam dan dalam selama bertahun-tahun

Dan contoh yang terakhir adalah seseorang yang sehat dan bugar, bukan karena latihan berolahraga dan melakukan pola hidup sehat sebulan atau dua bulan yang lalu, tetapi sejak bertahun-tahun yang lalu

Jika kita membaca buku secara rutin, kita melatih otak kita untuk bisa fokus yang dalam dan berpikir kritis

Tapi jika kita selalu melihat film-film pendek di sosial media maka kita melatih otak kita untuk berpikir pendek, susah fokus & miskin literasi, dan kita akhirnya dikendalikan oleh algoritma AI

Itulah pilihan hidup kita di tengah teknologi, mau menjadi seorang Jack yang serba bisa atau menjadi seseorang seperti Mozart
Dan hebatnya kadang kita merasa serba tahu hanya karena menonton Tiktok, Facebook, IG, Youtube, Twitter atau Threads, dan tidak perlu membaca buku, jurnal atau dokumentasi apa pun

Jadi apa yang kita latih, itu yang akan kita dapatkan.

Kita bisa melatih otak kita supaya tidak bisa konsentrasi lama, dengan cara menonton video-video pendek sosial media atau melatih untuk bisa berkonstrasi pernuh dengan cara membaca buku-buku fiksi dan non fiksi

Kita bisa melatih otot-otot tubuh kita, memperkuat aliran darah ke otak dan ke seluruh tubuh dan melakukan pola hidup sehat supaya bisa sehat sampai tua, atau kita cukup latihan rebahan, main game dengan ngemil seharian sambil menunggu penyakit satu per satu datang.

Silahkan pilih latihan mana yang ingin kita lakukan, itulah yang akan kita dapat di tahun-tahun berikutnya.