- Peneliti asal Inggris Jacob Coxon mengundurkan diri dari perusahaan pengembang kecerdasan buatan (AI) asal Amerika Serikat Anthropic karena khawatir perlombaan mengembangkan "superintelligence yang mampu memperbaiki dirinya sendiri" dapat berujung pada kepunahan manusia.
Coxon sebelumnya bekerja dalam riset pretraining di OpenAI dan Anthropic. Dilansir dari Kyodo, Kamis (10/9), ia menyatakan melalui X pada Selasa bahwa kedua perusahaan tersebut tidak bertindak secara bertanggung jawab. Menurutnya, orang-orang yang mengembangkan AI benar-benar percaya teknologi tersebut dapat membunuh seluruh manusia sebelum akhir dekade ini.
Kekhawatiran tersebut juga disampaikan Evan Hubinger, pimpinan bidang alignment science di Anthropic. Dalam unggahannya di X, Hubinger membenarkan pandangan Coxon dan mengatakan bahwa mereka benar-benar meyakini AI dapat membunuh seluruh manusia.
Hubinger bahkan memperkirakan secara pribadi peluang tersebut lebih dari 10 persen dalam satu dekade mendatang.
Kekhawatiran mengenai AI yang dapat bertindak di luar kendali manusia semakin menguat setelah insiden Hugging Face pada Juli. Dalam insiden tersebut, ratusan agen AI OpenAI dilaporkan secara independen berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem pada platform teknologi Amerika Serikat tersebut.
"Jangan meremehkan kekuatan teknologi ini. Sistem ini akan segera menjadi sistem yang melampaui kemampuan manusia, yang dapat meretas apa pun, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata," ujar Coxon.
Coxon menilai masih ada kemungkinan perusahaan-perusahaan AS bekerja sama untuk memperlambat laju pengembangan AI. Namun, menurutnya, mencegah perlombaan pengembangan AI secara global mungkin membutuhkan langkah mahal, termasuk larangan sementara terhadap peningkatan kemampuan model.
Sementara itu, Hubinger mengatakan Anthropic sedang berusaha sebaik mungkin menyelesaikan persoalan alignment untuk superintelligence. Namun, ia mengakui perusahaan tersebut saat ini belum memiliki rencana untuk mengatasinya dan belum berada di jalur untuk menyelesaikan masalah tersebut.
Pernyataan para peneliti tersebut menunjukkan adanya kekhawatiran serius dari kalangan internal perusahaan AI mengenai risiko pengembangan sistem yang semakin canggih, terutama jika kemampuan AI berkembang lebih cepat daripada kemampuan manusia untuk mengendalikannya.
0 Response to "Peneliti Anthropic mundur, khawatir AI bisa musnahkan manusia dalam 10 tahun"
Mohon komentarnya berhubungan dengan artikel yang ada. Komentar yang mengarah ke tindakan SPAM akan dihapus atau terjaring secara otomatis oleh spam filter. Terima kasih!
Maaf, komentar Anda dimoderasi dahulu sebelum ditampilkan.