• Perusahaan AI Anthropic menerapkan pembatasan pada model terbarunya, Claude Fable 5, dengan menolak menjawab pertanyaan yang dinilai berisiko tinggi.
• Permintaan sensitif seperti teknik peretasan sistem, pengembangan senjata biologis, atau pengetahuan kimia berbahaya akan dialihkan ke model AI yang lebih lama dan terbatas, Claude Opus 4.8.
• Pembatasan ini bertujuan mencegah penyalahgunaan kemampuan canggih Claude Fable 5 untuk tujuan yang dapat membahayakan masyarakat.
• Pengguna akan menerima pemberitahuan saat permintaannya dialihkan, sementara sekitar 95% permintaan sehari-hari untuk tugas umum tidak akan terpengaruh.
• Kebijakan ini menunjukkan pergeseran fokus dalam industri AI untuk tidak hanya mengembangkan kemampuan, tetapi juga memastikan teknologi aman dan mencegah penyalahgunaan.
Kanalindependen.id– Perkembangan teknologi kecerdasan buatan (AI) terus melaju dengan sangat cepat. Namun, di balik kemampuan yang semakin canggih, kini mulai muncul pembatasan baru yang sengaja diterapkan oleh pengembang AI. Salah satunya dilakukan oleh perusahaan AI, Anthropic, melalui model terbarunya yang diberi nama Claude Fable 5.
Berbeda dari kebanyakan chatbot AI yang berusaha menjawab hampir semua pertanyaan pengguna, Claude Fable 5 justru dirancang untuk menolak menjawab sejumlah permintaan yang dianggap memiliki risiko tinggi. Jika pengguna mengajukan pertanyaan yang masuk dalam kategori sensitif, sistem tidak akan memberikan jawaban secara langsung, melainkan mengalihkan permintaan tersebut ke model AI yang lebih lama dan memiliki kemampuan lebih terbatas.
Anthropic menjelaskan bahwa langkah ini diambil sebagai bentuk perlindungan agar teknologi AI tidak dimanfaatkan untuk tujuan yang dapat membahayakan masyarakat.
Pembatasan tersebut terutama berlaku untuk pertanyaan yang berkaitan dengan teknik peretasan sistem komputer, informasi yang berpotensi membantu pengembangan senjata biologis, hingga pengetahuan kimia yang dapat disalahgunakan untuk tindakan berbahaya. Menurut perusahaan, kemampuan Claude Fable 5 yang jauh lebih maju membuat model ini berpotensi memberikan informasi yang bisa dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab apabila tidak diberi pembatasan.
Karena itu, setiap kali sistem mendeteksi permintaan yang dinilai berisiko tinggi, Claude Fable 5 akan mengalihkan percakapan ke model Claude Opus 4.8. Model tersebut memiliki pembatasan keamanan yang lebih ketat sehingga dianggap lebih aman untuk menangani topik sensitif. Pengguna juga akan diberi pemberitahuan bahwa permintaannya telah dialihkan ke model lain.
Sebelum dirilis ke publik, Anthropic mengaku telah melakukan berbagai pengujian keamanan terhadap Claude Fable 5. Perusahaan ingin memastikan model AI terbarunya tetap dapat dimanfaatkan untuk berbagai kebutuhan produktif tanpa meningkatkan risiko penyalahgunaan di bidang keamanan siber maupun ilmu pengetahuan yang sensitif.
Meski demikian, Anthropic menegaskan bahwa pembatasan ini tidak akan memengaruhi sebagian besar pengguna. Perusahaan menyebut sekitar 95 persen permintaan sehari-hari tetap akan dijawab langsung oleh Claude Fable 5. Pengguna masih dapat memanfaatkan AI tersebut untuk membantu menulis, membuat program komputer, menganalisis data, merangkum dokumen, hingga menjawab berbagai pertanyaan umum.
Kebijakan ini menunjukkan adanya perubahan pendekatan dalam industri kecerdasan buatan. Jika sebelumnya perusahaan teknologi berlomba menghadirkan AI dengan kemampuan yang semakin luas, kini perhatian juga mulai bergeser pada bagaimana memastikan teknologi tersebut tidak digunakan untuk aktivitas yang dapat mengancam keamanan publik.
Seiring kemampuan AI yang terus berkembang, penerapan sistem pengaman seperti yang dilakukan Anthropic diperkirakan akan menjadi standar baru bagi perusahaan-perusahaan pengembang AI di masa mendatang. Dengan demikian, kemajuan teknologi tidak hanya diukur dari kecerdasannya, tetapi juga dari kemampuannya dalam mencegah penyalahgunaan. (***)
