Dikabarkan, induk perusahaan ChatGPT, OpenAI segera akan meluncurkan fitur kontrol orang tua sebagai respons terhadap meningkatnya kasus bunuh diri yang melibatkan remaja pengguna chatbot itu.
Maka fitur itu nantinya akan memungkinkan orang tua dapat menautkan akun anak remajanya ke akun pribadi mereka dan bisa mengatur batasan interaksi dengan ChatGPT, termasuk membatasi topik percakapan, menonaktifkan memori serta riwayat percakapan, bahkan sekaligus menerima peringatan otomatis jika anak terdeteksi mengalami tekanan emosional akut.
Fitur itu juga dirancang agar dapat memantau penggunaan ChatGPT oleh anak, memberikan akses pengawasan langsung, serta dapat membantu mencegah risiko kesehatan mental secara serius.
Sebagaimana juga, peluncuran fitur kontrol orang tua itu dilakukan setelah kasus tragis seorang remaja bernama Adam Raine di AS yang bunuh diri setelah mendapat informasi berbahaya dari ChatGPT.
Bahkan OpenAI juga akan mengembangkan model penalaran baru yang akan mengambil alih percakapan sensitif agar respons yang diberikan lebih aman dan membantu.
Dimana rencana peluncuran fitur itu dijadwalkan dalam waktu satu bulan ke depan, dengan tujuan memperkuat perlindungan dan keselamatan pengguna remaja ChatGPT secara menyeluruh.
Dengan demikian, fitur tersebut nantinya merupakan langkah nyata dari OpenAI demi meningkatkan keamanan dan tanggung jawab penggunaan AI, terutama bagi pengguna anak maupun remaja yang rentan secara emosional.