- OpenAI dilaporkan menahan atau membatalkan rencana pengembangan fitur interaksi dewasa ("NSFW mode") untuk ChatGPT.
- Keputusan ini didorong oleh kekhawatiran akan dampak sosial, psikologis, risiko reputasi perusahaan, serta potensi regulasi ketat di berbagai negara.
- Laporan internal menyebutkan keberatan dari sejumlah investor dan tim peneliti OpenAI terkait dampak psikologis yang belum teruji, seperti potensi ketergantungan emosional.
- Sistem moderasi saat ini dianggap belum cukup tangguh untuk melindungi pengguna, terutama anak di bawah umur, dari penyalahgunaan.
- OpenAI mengakui belum memiliki data ilmiah memadai mengenai konsekuensi jangka panjang dari interaksi intim antara manusia dan chatbot.
- Perusahaan kini akan memfokuskan sumber daya pada pengembangan teknologi yang lebih bermanfaat luas, berstandar keamanan tinggi, dan tetap berada pada jalur pengembangan AI yang etis.
Kanalindependen.id – OpenAI dilaporkan resmi menahan, bahkan cenderung membatalkan rencana pengembangan fitur interaksi dewasa atau yang sempat populer dengan sebutan “NSFW mode” pada ChatGPT.
Keputusan tersebut diambil menyusul kekhawatiran terkait dampak sosial, psikologis, serta risiko reputasi perusahaan.
Mengutip Arstechnica.com, laporan internal menyebutkan bahwa sejumlah investor dan tim peneliti OpenAI merasa keberatan dengan arah pengembangan tersebut.
Kehadiran fitur interaksi erotis dinilai berisiko memicu regulasi ketat di berbagai negara yang dapat menghambat ekspansi teknologi kecerdasan buatan (AI) secara umum.
Dari sisi teknis, para peneliti menyoroti dampak psikologis yang belum sepenuhnya teruji. Penggunaan AI untuk interaksi seksual dikhawatirkan dapat memicu ketergantungan emosional, distorsi relasi antarmanusia, hingga gangguan kesehatan mental bagi kelompok pengguna tertentu.
Selain itu, sistem moderasi saat ini dianggap belum cukup tangguh untuk menjamin fitur tersebut aman dari penyalahgunaan, terutama untuk melindungi pengguna di bawah umur.
OpenAI pun mengakui belum memiliki data ilmiah yang memadai terkait konsekuensi jangka panjang dari interaksi intim antara manusia dan chatbot.
Alih-alih mengejar fitur kontroversial, perusahaan besutan Sam Altman ini kini memilih untuk memfokuskan sumber daya pada pengembangan teknologi yang dinilai lebih bermanfaat luas dan memiliki standar keamanan tinggi.
Langkah ini sekaligus menegaskan posisi OpenAI untuk tetap berada pada jalur pengembangan AI yang etis di tengah persaingan industri yang kian kompetitif. (***)
