Peluncuran ChatGPT for Teens: Langkah Baru untuk Perlindungan Anak
OpenAI baru saja meluncurkan versi khusus dari ChatGPT yang disebut ChatGPT for Teens. Versi ini dirancang khusus untuk pengguna di bawah usia 18 tahun dengan berbagai perlindungan tambahan. Namun, meski langkah ini dianggap sebagai inisiatif positif, beberapa ahli keselamatan anak tetap meragukan efektivitas dan keandalan sistem tersebut.
Sistem Otomatis dengan Tantangan Akurasi
ChatGPT for Teens diberikan fitur perlindungan otomatis tanpa perlu pengguna membuat akun baru atau mengubah pengaturan apa pun. Menurut Lauren Jonas, kepala divisi youth and families OpenAI, jika sistem memperkirakan pengguna berusia di bawah 18 tahun atau pengguna telah memberi tahu bahwa mereka remaja, maka pengalaman default akan menjadi pengalaman yang lebih aman.
Namun, masalah utama yang muncul adalah ketidakpastian mengenai tingkat akurasi teknologi estimasi usia yang digunakan oleh OpenAI. Robbie Torney dari Common Sense Media menyatakan bahwa belum ada data publik yang menunjukkan seberapa baik sistem tersebut bekerja dalam mengenali remaja. Ia juga menyoroti adanya kemungkinan tingkat false positive dan false negative yang tidak diketahui.
"Kami tidak memiliki data yang dipublikasikan oleh OpenAI yang menunjukkan tingkat efektivitasnya, yaitu tingkat positif palsu dan negatif palsu, yang terkait dengan sistem tersebut. Sistem otomatis itu tidak mendeteksi sebagian besar remaja yang menggunakan ChatGPT; angkanya jauh dari 100 persen," ujar Torney.
Penggunaan ChatGPT oleh Remaja
Pew Research Center sebelumnya menemukan bahwa sekitar seperempat remaja di Amerika Serikat menggunakan chatbot seperti ChatGPT untuk membantu mengerjakan tugas sekolah. Hal ini menunjukkan bahwa penggunaan ChatGPT oleh remaja sudah sangat umum, sehingga penting bagi OpenAI untuk memastikan bahwa sistem perlindungan mereka benar-benar efektif.
Potensi Pengecualian dari Sistem Deteksi Usia
Selain masalah akurasi, para ahli juga khawatir bahwa remaja bisa mencoba mengakali sistem deteksi usia. Contohnya, penggunaan Virtual Private Network (VPN) atau metode lain untuk menghindari pembatasan yang diterapkan berdasarkan perkiraan usia pengguna. Dengan demikian, sistem perlindungan yang dijanjikan oleh OpenAI mungkin tidak sepenuhnya efektif jika pengguna mencoba mengelakinya.
Kritik Terhadap Komitmen Internal
Para ahli yang diwawancarai Engadget menyarankan agar OpenAI tidak hanya mengandalkan klaim internal. Mereka menilai bahwa ChatGPT for Teens perlu melalui pengujian independen secara menyeluruh sebelum dapat direkomendasikan kepada orang tua dan remaja.
"Pengumuman tersebut memuat sejumlah komitmen yang sangat penting, namun kita memerlukan bukti untuk menunjukkan bahwa komitmen dan fitur keselamatan itu benar-benar berfungsi," kata Torney.
Aturan Lebih Ketat dalam Percakapan
OpenAI juga menyatakan bahwa perlindungan untuk pengguna di bawah 18 tahun mencakup aturan yang lebih ketat dalam percakapan. ChatGPT tidak boleh menggunakan bahasa romantis, mendorong ketergantungan emosional, atau menyiratkan bahwa chatbot memiliki perasaan maupun kesadaran.
Masalah Akuntabilitas
Josh Golin dari Fairplay menilai bahwa isu akuntabilitas masih menjadi titik lemah. Menurutnya, pengalaman dengan platform media sosial menunjukkan bahwa kepercayaan terhadap perusahaan saja tidak cukup untuk memastikan sistem perlindungan anak benar-benar bekerja.
"Di atas kertas, beberapa hal yang diumumkan OpenAI tampak sebagai langkah ke arah yang tepat; namun jika ditelaah lebih dalam, masih banyak hal yang patut dikhawatirkan, termasuk tidak adanya mekanisme akuntabilitas," ungkap Golin.
Tantangan Berikutnya
Dengan demikian, peluncuran ChatGPT for Teens tidak hanya menjadi upaya OpenAI memperketat perlindungan bagi pengguna muda. Tantangan berikutnya adalah membuktikan bahwa sistem tersebut mampu mengenali remaja secara akurat dan memberikan perlindungan yang dijanjikan dalam praktik.
0 Response to "ChatGPT untuk Remaja Dirilis, Pakar Khawatirkan Akurasi Deteksi Usia OpenAI"
Mohon komentarnya berhubungan dengan artikel yang ada. Komentar yang mengarah ke tindakan SPAM akan dihapus atau terjaring secara otomatis oleh spam filter. Terima kasih!
Maaf, komentar Anda dimoderasi dahulu sebelum ditampilkan.