Ahad 22 Nov 2026 08:13 WIB

Teknologi AI dalam Lensa Pemikiran Hirji

Ketika Kecerdasan Buatan Bertemu Neoliberalisme, Kekuasaan, dan Masa Depan Manusia

Ilustrasi pusat data AI.
Foto: alamy
Ilustrasi pusat data AI.

Oleh : Achmad Tshofawie
 Kordinator ECO-FITRAH, keluarga FKPPI dan ICMI

Kecerdasan buatan atau artificial intelligence (AI) sedang dipromosikan sebagai salah satu mesin perubahan terbesar dalam sejarah peradaban. Ia mampu membantu dokter membaca citra medis, mempercepat penelitian, mengolah data dalam skala yang sulit dijangkau manusia, hingga menulis, menerjemahkan, dan menghasilkan gambar. Di dunia industri, AI menjanjikan efisiensi. Di pemerintahan, ia ditawarkan sebagai instrumen pengambilan keputusan. Di dunia pendidikan, ia dipandang dapat memperluas akses pengetahuan.

Namun, di balik optimisme itu, ada pertanyaan yang tidak kalah penting: apakah AI dikembangkan semata-mata untuk meningkatkan kemampuan manusia, atau juga untuk memperkuat struktur ekonomi dan kekuasaan yang telah membentuk dunia modern?

Pertanyaan inilah yang memperoleh tempat penting dalam pemikiran Karim Hirji melalui bukunya Artificial Intelligence, Society and Religion: Crossroads of Algorithm, Neoliberalism and Faith (2025).

Hirji adalah profesor statistik medis yang telah pensiun, dan Fellow Tanzania Academy of Sciences (Late).  Latar belakangnya menarik karena ia bukan sekadar pengamat teknologi atau pemikir agama, melainkan seorang akademisi yang terbiasa dengan persoalan statistik, pengukuran, dan penalaran ilmiah.

Hirji mengajak pembaca melihat AI bukan hanya sebagai persoalan teknis, melainkan sebagai fenomena sosial, politik, ekonomi, dan moral. Baginya, teknologi tidak tumbuh di ruang hampa. Ia lahir dalam masyarakat yang memiliki kepentingan, ketimpangan, pertentangan nilai, dan relasi kekuasaan.

Dengan demikian, memahami AI tidak cukup dengan mempelajari algoritma dan kemampuan komputasinya. Kita juga perlu menelisik siapa yang membangun teknologi tersebut, untuk tujuan apa, siapa yang memperoleh keuntungan, dan siapa yang menanggung risikonya.

Ketika Algoritma Tidak Lagi Sekadar Algoritma

Salah satu gagasan penting Hirji adalah bahwa neoliberalisme menjadi kekuatan utama yang membentuk perkembangan dan penerapan AI modern. Dalam kerangka ini, neoliberalisme tidak hanya dipahami sebagai kebijakan ekonomi, tetapi juga sebagai cara pandang yang menempatkan persaingan, individualisme, efisiensi, privatisasi, dan mekanisme pasar sebagai prinsip dominan dalam mengatur kehidupan.

Ketika cara pandang tersebut mendasari pengembangan AI, pertanyaan tentang keberhasilan teknologi pun berpotensi menyempit. Keberhasilan diukur melalui kecepatan, produktivitas, pengurangan biaya, pertumbuhan pasar, dan keuntungan investasi. Sementara itu, keadilan sosial, kesejahteraan pekerja, perlindungan privasi, dan keberlanjutan lingkungan dapat ditempatkan sebagai pertimbangan sekunder. Bayangkan sebuah sistem kecerdasan buatan yang digunakan untuk menyeleksi calon pekerja. Jika tujuan utamanya hanya mengurangi biaya perekrutan dan memaksimalkan produktivitas, sistem tersebut dapat menyisihkan kandidat berdasarkan pola data masa lalu yang sebenarnya mencerminkan diskriminasi. Angka dan skor kemudian menghadirkan keputusan seolah-olah objektif, padahal pilihan mengenai data, kriteria, dan tujuan sistem tetap dibuat manusia.

Di sinilah persoalannya. Algoritma tidak harus memiliki ideologi untuk mereproduksi ketidakadilan. Nilai dan kepentingan dapat masuk melalui data yang digunakan, sasaran yang dioptimalkan, serta keputusan manusia mengenai cara sistem diterapkan.

Namun, kita perlu berhati-hati. Tidak semua bias AI merupakan bukti adanya agenda neoliberal yang disengaja. Bias dapat muncul akibat data yang tidak representatif, kelemahan metode, atau desain yang buruk. Kritik Hirji menjadi semakin kuat ketika hubungan antara kepentingan ekonomi, keputusan teknis, dan dampak sosial dapat ditunjukkan secara konkret.

Dari Statistik dan Eugenika Menuju Klasifikasi Manusia

Pembahasan Hirji mengenai statistik dan eugenika menambah kedalaman kritik tersebut. Sejarah mengajarkan bahwa ilmu pengukuran dan klasifikasi, meskipun dapat membantu memahami populasi, juga pernah digunakan untuk membenarkan hierarki manusia. Francis Galton, tokoh yang berperan dalam perkembangan statistik dan menjadi salah satu perintis eugenika, mendorong gagasan tentang peningkatan kualitas populasi melalui seleksi manusia. Dalam perkembangannya, eugenika menjadi landasan bagi berbagai praktik diskriminatif, termasuk pembatasan reproduksi dan kebijakan yang melanggar hak kelompok tertentu.

Pelajarannya bukan bahwa statistik itu jahat atau AI identik dengan eugenika. Keduanya merupakan kesimpulan yang keliru. Pelajaran yang lebih penting ialah bahwa perangkat ilmiah tidak otomatis menghasilkan tujuan moral yang benar. Pengukuran dapat berubah menjadi instrumen dominasi ketika kategori yang dibangun manusia diperlakukan sebagai kebenaran mutlak dan digunakan untuk menentukan siapa yang dianggap layak memperoleh kesempatan. Risiko serupa perlu diwaspadai dalam AI modern. Sistem penilaian kredit, perekrutan, pengawasan, dan pelayanan publik dapat mengelompokkan manusia berdasarkan karakteristik atau pola perilaku tertentu. Apabila proses tersebut tidak transparan, masyarakat bisa mengalami diskriminasi yang sulit dikenali, apalagi digugat.

Teknologi mungkin mengubah bentuk klasifikasi, tetapi pertanyaan etikanya tetap: siapa yang menentukan standar, apakah standar itu adil, dan bagaimana seseorang dapat menentang keputusan yang merugikan dirinya?

Neoliberalisme dan Paradoks Demokrasi

Hirji juga mengkritik anggapan bahwa neoliberalisme selalu identik dengan kebebasan. Dalam praktiknya, kebijakan yang mengutamakan pasar dapat berjalan berdampingan dengan pemerintahan otoriter, pembatasan kebebasan sipil, bahkan konsentrasi kekuasaan politik.

Ini merupakan pengingat bahwa kebebasan ekonomi dan kebebasan politik bukanlah hal yang sama. Sebuah negara dapat membuka ruang luas bagi investasi dan persaingan perusahaan, tetapi membatasi kebebasan warga dalam mengkritik pemerintah. Sebaliknya, negara yang menggelar pemilihan umum pun dapat mengalami konsentrasi kekuatan ekonomi yang membuat sebagian besar masyarakat memiliki pengaruh terbatas terhadap kebijakan.

Dalam konteks AI, persoalan itu menjadi semakin penting. Teknologi yang sama-sama canggih dapat digunakan untuk membantu layanan publik, tetapi juga dapat digunakan untuk pengawasan yang berlebihan. Sistem rekomendasi dapat mempermudah akses informasi, tetapi dalam kondisi tertentu dapat memperkuat polarisasi. Pengolahan data dapat meningkatkan efisiensi, tetapi juga memperluas kemampuan institusi untuk mengawasi perilaku manusia. Karena itu, persoalan AI bukan hanya apakah teknologinya bekerja dengan baik, melainkan juga siapa yang mengendalikan, batas apa yang berlaku, dan mekanisme apa yang tersedia ketika kekuasaan teknologi disalahgunakan.

Hirji melihat sosialisme demokratis sebagai tantangan berarti terhadap dominasi neoliberalisme. Gagasan ini menekankan demokratisasi ekonomi, perlindungan sosial, dan distribusi manfaat pembangunan yang lebih merata. Namun, menyebutnya sebagai satu-satunya alternatif perlu diperdebatkan lebih lanjut. Ekonomi koperasi, teknologi publik, pengelolaan sumber daya bersama, serta gerakan hak digital juga dapat menawarkan koreksi terhadap dominasi kepentingan pasar.

Bagaimanapun, kepemilikan negara saja tidak menjamin keadilan. Teknologi yang dikuasai pemerintah tetap dapat disalahgunakan jika tidak disertai transparansi, pertanggungjawaban, dan perlindungan hak warga.

Tiongkok: Komunis dalam Politik, Kapitalistis dalam Banyak Praktik Ekonomi?

Paradoks Tiongkok memberikan contoh menarik bagi diskusi ini. Republik Rakyat Tiongkok dipimpin Partai Komunis, tetapi memiliki perusahaan swasta raksasa, miliarder, persaingan bisnis, investasi, dan ekspansi ekonomi global. Perusahaan seperti DeepSeek memperlihatkan kemampuan pengembang Tiongkok untuk bersaing dalam perlombaan AI mutakhir.

Apakah kenyataan ini berarti Tiongkok sebenarnya telah menjadi negara kapitalis liberal?

Jawabannya tidak sesederhana itu. Tiongkok menggabungkan mekanisme pasar dengan pengarahan kuat oleh negara-partai. Perusahaan dapat bersaing dan mengejar keuntungan, tetapi pemerintah tetap memainkan peran besar dalam menentukan prioritas industri, mengarahkan investasi, dan mengendalikan sektor strategis. Karena itu, istilah kapitalisme negara-partai lebih membantu untuk menggambarkan perpaduan tersebut daripada menyebut Tiongkok semata-mata komunis atau liberal.

Pengalaman Tiongkok juga menunjukkan bahwa kemajuan teknologi tidak harus lahir dari model pasar bebas yang sepenuhnya menyerahkan arah pembangunan kepada perusahaan. Dukungan negara, investasi pendidikan dan riset, persaingan perusahaan, serta dorongan kemandirian teknologi dapat bekerja secara bersamaan.

Tetapi kecanggihan teknologi tidak otomatis membuktikan keadilan suatu sistem. Di negara dengan dominasi perusahaan, kita perlu menguji apakah kepentingan pemegang saham mengalahkan kepentingan publik. Di negara dengan kendali kuat negara-partai, kita perlu menguji apakah kepentingan negara membatasi hak warga untuk mengkritik dan menggugat keputusan yang merugikan.

Kedua model tidak identik. Struktur politik, mekanisme pengawasan, dan ruang kebebasannya berbeda. Namun, keduanya mengingatkan bahwa konsentrasi kekuasaan—baik ekonomi maupun politik—memerlukan pengawasan yang memadai.

Maka, pertanyaan terpenting bukan sekadar siapa yang paling cepat menciptakan AI, melainkan siapa yang menentukan arah penggunaannya dan untuk kepentingan siapa teknologi itu bekerja.

Indonesia: Jangan Sekadar Menjadi Pasar Teknologi

Bagi Indonesia, perdebatan ini bukan urusan jauh di luar negeri. Ketika AI masuk ke sektor pangan, pendidikan, kesehatan, industri, keuangan, dan pelayanan publik, kita perlu memastikan bahwa teknologi tersebut memperkuat kapasitas masyarakat, bukan hanya memperbesar ketergantungan.

Di sektor pertanian, misalnya, AI dapat membantu petani membaca prakiraan cuaca, memantau kesehatan tanaman, dan menggunakan air secara lebih efisien. Namun, manfaat itu perlu diuji: apakah teknologi dapat dijangkau petani kecil, apakah data dikuasai secara adil, dan apakah petani tetap memiliki kebebasan menentukan pilihan produksi?

Dalam pengelolaan air, AI dapat membantu mendeteksi kebocoran jaringan, memetakan daerah tangkapan air, dan memperbaiki distribusi. Tetapi sistem secanggih apapun tidak akan menyelesaikan krisis air jika kerusakan hulu dibiarkan, pengambilan air tidak dikendalikan, dan masyarakat kehilangan akses yang layak.

Di bidang pendidikan, AI dapat membantu guru dan memperluas sumber belajar. Namun, tanpa pemerataan infrastruktur dan penguatan kemampuan guru, teknologi justru berisiko memperlebar kesenjangan.

Indonesia perlu membangun kemampuan risetnya sendiri, memperkuat perguruan tinggi, mendorong kolaborasi dengan koperasi dan usaha kecil, serta memastikan sistem AI yang digunakan dalam pelayanan publik dapat diperiksa dan dipertanggungjawabkan. Tujuannya bukan menutup diri dari dunia, melainkan mengurangi ketergantungan yang tidak sehat dan memperbesar kemampuan bangsa menentukan prioritasnya sendiri.

Membaca AI Melalui Lensa FITRAH

Pada akhirnya, kritik Hirji mengajak kita meninjau kembali ukuran kemajuan. Jika efisiensi dan keuntungan menjadi ukuran tunggal, kecerdasan buatan berpotensi memperbesar orientasi tersebut. Namun, jika kemajuan juga diukur melalui keadilan, martabat manusia, kesejahteraan bersama, dan kelestarian alam, maka arah pengembangan teknologi dapat dipertanyakan dan diperbaiki.

Di sinilah perspektif FITRAH menawarkan ruang refleksi. Prinsip mizan mengingatkan pentingnya keseimbangan dan keadilan. Prinsip amanah menegaskan bahwa manusia tidak boleh melepaskan tanggung jawab moral kepada mesin. Semangat gotong royong mendorong agar manfaat pengetahuan dan teknologi tidak hanya terkonsentrasi pada pemilik modal. Sementara itu, EcoFitrah mengingatkan bahwa kecerdasan digital tetap memiliki jejak material: listrik, air, bahan baku, dan limbah elektronik.

Dalam kerangka NAQLI memandu AQLI, nilai moral menjadi kompas, sedangkan ilmu pengetahuan dan penalaran menjadi perangkat untuk menguji kenyataan. Nilai keadilan perlu diterjemahkan menjadi audit diskriminasi; amanah menjadi mekanisme pertanggungjawaban; gotong royong menjadi partisipasi masyarakat; dan keseimbangan ekologis menjadi pengukuran dampak energi, air, serta material.

Dengan demikian, FITRAH bukan sekadar label untuk menolak suatu ideologi. Ia dapat menjadi kerangka untuk menilai berbagai sistem ekonomi dan teknologi berdasarkan dampaknya terhadap kehidupan.

AI dapat mengolah data dalam jumlah luar biasa, menemukan pola yang sulit dilihat manusia, dan membantu menyelesaikan berbagai persoalan. Namun, kemampuan teknis tidak dengan sendirinya menentukan tujuan yang layak diperjuangkan. Mesin dapat mengoptimalkan apa yang kita ukur. Akan tetapi, manusia tetap harus bertanya apakah ukuran tersebut benar-benar mencerminkan kebaikan bersama.

Karim Hirji mengingatkan bahwa AI tidak dapat dilepaskan dari struktur ekonomi dan politik yang membentuknya. Tiongkok memperlihatkan bahwa pasar dan kendali negara dapat berpadu dalam satu sistem. Pengalaman berbagai negara pun menunjukkan bahwa kemajuan teknologi tidak otomatis menjamin kebebasan, keadilan, atau pemerataan manfaat. Karena itu, kita tidak cukup memperdebatkan apakah AI harus kapitalistis atau sosialis. Kita harus memeriksa siapa yang menguasainya, bagaimana kekuasaan itu dibatasi, siapa yang memperoleh manfaat, dan siapa yang menanggung biaya sosial serta ekologisnya.

Tantangan terbesar AI bukan semata-mata membuat mesin semakin cerdas, melainkan memastikan manusia tidak kehilangan kebijaksanaan dalam menentukan untuk apa kecerdasan itu digunakan.

Berita Lainnya

Rekomendasi