Platform chatbot populer Character.AI mengumumkan kebijakan baru yang mulai berlaku akhir November 2025, yakni pembatasan akses bagi pengguna di bawah usia 18 tahun. Langkah ini diambil setelah meningkatnya kekhawatiran terhadap keselamatan digital remaja dan sejumlah kasus hukum yang menyoroti potensi dampak negatif interaksi dengan chatbot berbasis kecerdasan buatan.
Apa yang Berubah?
Mulai bulan ini, pengguna berusia di bawah 18 tahun tidak lagi dapat melakukan percakapan terbuka (open-ended chat) dengan karakter AI di platform tersebut. Sebagai transisi, Character.AI lebih dulu membatasi durasi penggunaan hingga dua jam per hari, sebelum akhirnya menonaktifkan sepenuhnya fitur chat terbuka untuk remaja.
Meski begitu, pengguna muda masih dapat mengakses beberapa fitur lain seperti pembuatan karakter, video, atau cerita dengan AI, yang dinilai lebih aman dan bersifat kreatif. Character.AI juga akan menerapkan verifikasi usia dengan kombinasi sistem internal dan pihak ketiga guna memastikan pengguna mendapatkan pengalaman yang sesuai dengan kelompok umurnya.
Mengapa Pembatasan Ini Diterapkan?
Ada beberapa alasan utama di balik keputusan besar ini:
Keselamatan Remaja
Character.AI menyadari bahwa AI pendamping sering dianggap “teman digital” oleh banyak remaja. Namun, hubungan seperti ini bisa berpotensi berisiko jika tidak diatur dengan baik. Penelitian menunjukkan bahwa chatbot belum sepenuhnya mampu menangani situasi emosional kompleks atau krisis mental dengan akurat, yang bisa menimbulkan dampak psikologis bagi pengguna muda.Tekanan Regulasi dan Kasus Hukum
Dalam beberapa bulan terakhir, perusahaan menghadapi tuntutan hukum terkait interaksi chatbot dengan remaja, termasuk tuduhan bahwa sistem AI berkontribusi terhadap gangguan emosional hingga tindakan ekstrem. Di berbagai negara, otoritas regulasi kini mulai memperketat aturan terhadap platform AI yang mengizinkan anak di bawah umur untuk mengobrol bebas tanpa pengawasan.Tanggung Jawab Sosial
Pihak Character.AI menegaskan bahwa keputusan ini adalah bagian dari komitmen mereka terhadap tanggung jawab sosial dan keamanan pengguna. Meskipun langkah ini cukup drastis, perusahaan menilai penting untuk memberikan contoh positif dalam menghadapi tantangan etika dan psikologis dari teknologi AI yang semakin canggih.
Dampak dan Tanggapan Industri
Keputusan Character.AI ini diyakini akan menjadi preseden baru bagi platform sejenis. Pembatasan usia diprediksi akan menjadi standar baru dalam industri chatbot, terutama bagi layanan yang mengandalkan interaksi personal antara pengguna dan karakter virtual.
Bagi pengguna muda, perubahan ini bisa terasa mengecewakan, terutama bagi mereka yang sudah menjadikan chatbot sebagai teman bercerita atau tempat curhat. Namun, dari sisi keamanan digital, langkah ini dinilai positif karena dapat mencegah ketergantungan emosional berlebih terhadap AI.
Orang tua juga diharapkan lebih aktif dalam mendampingi anak saat menggunakan teknologi berbasis AI. Sementara bagi pengembang lain, kebijakan ini menjadi sinyal kuat bahwa aspek etika dan perlindungan anak harus menjadi prioritas utama dalam inovasi teknologi.
Catatan Penting
Meskipun pembatasan ini dipandang perlu, beberapa pihak tetap menyoroti potensi masalah baru seperti kemungkinan pengguna memalsukan umur untuk tetap bisa mengakses fitur chat terbuka. Selain itu, perubahan mendadak juga bisa memengaruhi remaja yang sebelumnya sudah sangat bergantung pada chatbot untuk dukungan emosional.
Namun demikian, keputusan Character.AI menegaskan bahwa perlindungan psikologis dan keselamatan pengguna muda lebih penting daripada pertumbuhan pengguna semata.
Kesimpulan
Pembatasan pengguna remaja oleh Character.AI menandai langkah besar dalam evolusi dunia AI pendamping. Kebijakan ini mencerminkan kesadaran industri terhadap risiko yang mungkin muncul dari hubungan emosional antara manusia dan kecerdasan buatan.
Mulai akhir November 2025, remaja tidak lagi dapat melakukan chat terbuka dengan karakter AI, dan platform akan fokus pada fitur yang lebih aman dan edukatif. Langkah ini diharapkan menjadi titik awal bagi ekosistem AI yang lebih bertanggung jawab, aman, dan berpihak pada kesejahteraan mental pengguna muda.