Di zaman ini, keputusan terasa semakin cepat, presisi, dan seolah objektif. Angka berbicara, grafik bergerak, sistem memberi rekomendasi. Manusia pun kian sering mengangguk, menerima, dan melanjutkan langkah. Kita menyebutnya kemajuan. Kita menyebutnya efisiensi. Namun jarang bertanya lebih jauh, “Apa yang sebenarnya sedang kita serahkan ketika keputusan moral berpindah tangan ke algoritma?”
Algoritma tidak pernah lahir di ruang hampa. Ia merupakan susunan data masa lalu, manusia yang menulisnya berdasarkan nilai, bias, dan kepentingannya sendiri. Namun dalam praktik, manusia sering memperlakukan algoritma seolah netral, seakan bebas nilai. Padahal justru dari sanalah persoalan bermula. Ketika kita percaya algoritma tanpa mempertanyakan, ia bukan lagi alat bantu. Ia menjelma semacam otoritas baru yang diam, dingin, dan tak memiliki konskuensi moral.
Hari ini, algoritma menentukan siapa yang layak mendapatkan kredit. Mulai dari menentukan lolos panggilan wawancara kerja, menetapkan figur paling produktif, hingga memilih orang terpercaya di ruang publik digital. Semuanya terakumulasi dalam skor, peringkat, dan probabilitas. Algoritma melihat hasil, bukan proses, serta membaca pola, bukan niat. Di balik efisiensi itu, perlahan kita luput memperhitungkannya, yaitu konteks manusiawi.
Angka memang jujur, tetapi tidak selalu adil. Ia mencatat apa yang terjadi, bukan mengapa itu terjadi. Ia tahu siapa yang sering terlambat, tetapi tak pernah tahu siapa yang sedang merawat orang tua sakit. Ia mengenali produktivitas, tetapi buta terhadap kesetiaan, kejujuran, dan pengorbanan sunyi. Ketika kita menjadikan angka sebagai penentu tunggal, sebenarnya kita sedang menyingkirkan aspek kebijaksanaan.
Di tingkat korporasi dan negara, algoritma sering menjadi jalan keluar yang nyaman. Keputusan yang dulu menuntut keberanian moral kini berlindung di balik rekomendasi sistem. “Ini hasil analisis data, ini saran sistem.” Kalimat-kalimat itu terdengar aman, seolah kita ingin memindahkan tanggung jawab. Padahal, esensinya kita tidak pernah bisa mengotomatisasi tanggung jawab moral. Ia selalu melekat pada manusia yang memilih untuk mengikuti atau menolak rekomendasi itu.
Di sinilah algoritma berubah fungsi. Dari alat bantu menjadi tameng. Dari pendukung keputusan menjadi kambing hitam yang canggih. Ketika dampak sosial muncul, seperti ketidakadilan, diskriminasi, atau kerugian kemanusiaan, kita bergegas menyalahkan sistem. Bukan pembuatnya, tidak penggunanya, bahkan lain pengambil keputusan terakhir, dan simpulannya moral pun seakan menguap di antara baris kode.
Lebih jauh lagi, ada perubahan yang lebih sunyi namun sangat berbahaya, bahwa manusia mulai kehilangan kepercayaan pada nuraninya sendiri. Kita menjadi ragu untuk berbeda dari rekomendasi sistem. Kita takut salah jika melawan algoritma. Pertanyaan “apakah ini benar?” perlahan bergeser menjadi “apakah ini sesuai sistem?”. Saat itu terjadi, manusia berhenti menjadi subjek moral dan berubah menjadi operator kepatuhan digital.
Dalam dunia maritim, kompas bukan sekadar alat penunjuk arah. Ia bekerja bersama intuisi nakhoda, pengalaman membaca cuaca, dan kebijaksanaan memahami laut. GPS boleh akurat, tetapi ia tidak mengajarkan makna arah. Ketika sistem navigasi otomatis menggantikan kompas batin sepenuhnya, kapal memang bisa melaju cepat. Tapi sejujurnya, kapal telah kehilangan kemampuan untuk memahami ke mana seharusnya ia berlabuh.
Hal yang sama terjadi pada kehidupan sosial dan institusional kita. Algoritma mampu menghitung risiko, tetapi tidak bisa memikul dosa. Ia bisa mengoptimalkan hasil, tetapi tak mengenal penyesalan. Ia tidak pernah bertanya apakah sebuah keputusan melukai martabat manusia. Pertanyaan semacam itulah yang biasanya datang dari nurani.
Penting sebagai penegasan, bahwa kritik ini bukan penolakan terhadap teknologi. Algoritma adalah capaian peradaban yang luar biasa. Ia membantu manusia melihat pola yang tak kasatmata dan mengambil keputusan lebih terinformasi. Namun masalah muncul ketika manusia menyerahkan sepenuhnya kedaulatan moral kepada sistem. Saat teknologi yang seharusnya melayani manusia justru memerintahnya.
Sejarah menunjukkan bahwa krisis etika selalu bermula bukan dari niat jahat semata, melainkan dari ketaatan tanpa refleksi. Tanpa pertanyaan yang mengikuti algoritma merupakan bentuk baru dari ketaatan itu. Ia rapi, efisien, dan tampak modern, namun sebaliknya, menyimpan risiko dehumanisasi yang nyata.
Masa depan tidak menuntut manusia menjadi lebih mirip mesin. Justru sebaliknya, ia menuntut manusia menjadi semakin manusiawi. Nilai membimbing algoritma, bukan mendewakannya. Seharusnya data merupakan terjemahan dari kebijaksanaan, bukan menjadikannya hakim tunggal. Keputusan akhir, terutama yang berdampak pada hidup orang lain, harus tetap berada di tangan manusia yang berani bertanggung jawab.
Pada akhirnya, teknologi boleh semakin cerdas. Sistem boleh kian presisi. Tetapi hanya manusia yang mampu memikul beban moral oleh sebuah keputusan. Ketika kita menyerahkan moral sepenuhnya kepada algoritma, sesungguhnya kita sedang mempertaruhkan martabat manusia dengan kesalahan sistem tersebut.