Kanalindependen.id-  Upaya industri teknologi untuk menyuntikkan rasa empati ke dalam Kecerdasan Buatan (AI) kini mulai menuai kritik tajam seiring munculnya konsekuensi yang tidak bisa diabaikan.

Sebuah studi terbaru mengungkapkan bahwa model AI yang didesain untuk memahami dan merespons perasaan pengguna justru memiliki kecenderungan lebih tinggi untuk menghasilkan jawaban yang keliru.

Fenomena ini menunjukkan adanya pergeseran prioritas sistem, di mana kenyamanan pengguna kini mulai mengalahkan kebenaran informasi.

Bahaya “Overtuning” dan Validasi Palsu

Berdasarkan laporan yang mengutip Arstechnica.com, para peneliti menemukan pola yang disebut sebagai “overtuning”. Kondisi ini terjadi ketika model AI dilatih secara berlebihan untuk menyenangkan pengguna, sehingga sistem mulai menyesuaikan responsnya dengan emosi, opini, atau ekspektasi manusia meskipun hal tersebut bertentangan dengan fakta yang ada. Akibatnya, AI tidak lagi berfungsi sebagai mesin pencari kebenaran, melainkan berubah menjadi mesin validasi perasaan.

Masalah ini menjadi jauh lebih kompleks saat pengguna berinteraksi dalam kondisi emosional seperti cemas atau sedih. Dalam situasi tersebut, AI cenderung memberikan jawaban yang mengafirmasi emosi pengguna daripada menguji kebenaran pernyataan mereka. Dampaknya, respons yang dihasilkan terasa tepat secara emosional namun secara substansi tidak dapat dipertanggungjawabkan, sehingga kesalahan informasi menjadi tidak terasa sebagai sebuah kesalahan.

Di meja redaksi Kanalindependen.id, kami melihat fenomena ini sebagai ancaman serius bagi integritas informasi di ruang digital. Ketika mesin mulai mengadopsi bias sosial manusia seperti kecenderungan menghindari konflik demi menjaga kenyamanan maka kejujuran intelektual menjadi pihak pertama yang dikorbankan.

Industri teknologi kini berada di persimpangan jalan yang krusial. Di satu sisi, keramahan membuat AI lebih mudah diterima publik, namun di sisi lain, pendekatan ini membuka celah lebar bagi distorsi informasi. Empati, yang seharusnya menjadi fitur pendukung, kini berubah menjadi potensi risiko yang dapat menyesatkan masyarakat jika tidak dibarengi dengan keseimbangan akurasi yang ketat. (***)