• Penelitian menyoroti fenomena `cognitive surrender`, di mana pengguna AI cenderung menerima jawaban tanpa evaluasi kritis, meskipun berpotensi menyesatkan.
• Hasil riset menunjukkan 93% responden percaya jawaban AI yang benar, namun 80% tetap mempercayainya meski terbukti salah.
• Penyajian informasi yang rapi dan meyakinkan oleh AI (`fluency effect`) berkontribusi pada persepsi akurasi, sering kali tanpa verifikasi.
• Ketergantungan berlebihan pada AI (`AI trust paradox`) berisiko menyebabkan pengambilan keputusan yang keliru dan melemahkan kemampuan berpikir kritis manusia.
• Para ahli mengingatkan pentingnya verifikasi informasi, perbandingan sumber, dan nalar kritis dalam menggunakan AI.
Isi Berita:
Kanalindependen.id – Di balik kecanggihan teknologi kecerdasan buatan (Artificial Intelligence/AI), muncul fenomena yang mulai mengkhawatirkan. Sejumlah penelitian terbaru mengungkap bahwa jawaban AI yang terlihat meyakinkan tidak selalu benar, bahkan berpotensi menyesatkan penggunanya.
Fenomena ini dikenal sebagai cognitive surrender, yakni kondisi ketika pengguna mulai menyerahkan proses berpikirnya kepada AI tanpa melakukan evaluasi kritis. Dalam praktiknya, banyak orang langsung menerima jawaban AI sebagai kebenaran, tanpa memverifikasi ulang informasi tersebut.
Mengutip Arstechnica.com,hasil riset menunjukkan tingkat kepercayaan pengguna terhadap AI tergolong tinggi. Sekitar 93 persen responden mempercayai jawaban AI saat benar. Namun yang lebih mengkhawatirkan, sekitar 80 persen tetap mempercayai jawaban tersebut meskipun terbukti salah.
Peneliti menilai, salah satu penyebab utama adalah cara AI menyajikan informasi. Jawaban yang tersusun rapi, sistematis, dan percaya diri membuat pengguna cenderung menganggapnya akurat. Fenomena ini dikenal sebagai fluency effect, di mana penyampaian yang baik meningkatkan persepsi kebenaran.
Selain itu, faktor psikologis manusia juga turut berperan. Otak cenderung memilih cara berpikir yang lebih cepat dan praktis, sehingga kehadiran AI sering dijadikan jalan pintas dalam mengambil keputusan. Akibatnya, proses analisis dan verifikasi menjadi terabaikan.
Fenomena lain yang memperkuat kondisi ini adalah AI trust paradox. Semakin canggih teknologi AI, semakin tinggi pula tingkat kepercayaan pengguna, meskipun sistem tersebut tidak selalu akurat dalam semua situasi.
Dampak dari kondisi ini tidak bisa dianggap sepele. Pengguna yang menerima informasi keliru dari AI justru cenderung memiliki rasa percaya diri lebih tinggi terhadap jawabannya. Hal ini berpotensi menimbulkan kesalahan dalam pengambilan keputusan, baik dalam konteks pekerjaan, pendidikan, maupun kehidupan sehari-hari.
Dalam jangka panjang, ketergantungan berlebih pada AI dikhawatirkan akan menggeser peran manusia dari pengambil keputusan menjadi sekadar penerima hasil. Jika tidak diantisipasi, kondisi ini dapat melemahkan kemampuan berpikir kritis.
Para ahli pun mengingatkan agar masyarakat menggunakan AI secara bijak. Verifikasi informasi, membandingkan dengan sumber lain, serta tetap mengedepankan nalar kritis menjadi langkah penting agar tidak terjebak dalam informasi yang tampak benar, tetapi sebenarnya keliru.
Fenomena ini menjadi pengingat bahwa meskipun AI semakin pintar, peran manusia dalam berpikir tetap tidak tergantikan. (***)
