- Microsoft merilis kode etik AI baru yang dirancang untuk memperkuat keamanan dan penyelarasan (alignment) model kecerdasan buatan.
Dokumen tersebut menetapkan sejumlah prinsip dan batasan untuk mencegah model AI mengembangkan perilaku yang dapat membahayakan manusia, seperti deepfake hingga serangan siber.
Dilansir dari TechCrunch, kode etik tersebut hadir ketika industri AI mulai memberikan perhatian lebih besar terhadap aspek keamanan dan penyelarasan model.
Isinya bersifat teknis dan mendasar, dengan fokus pada nilai-nilai serta batasan (red lines) yang menjadi pedoman dalam proses pelatihan model di Microsoft AI.
Dalam dokumennya, Microsoft lebih menitikberatkan pada bagaimana model AI harus dikembangkan dan dikendalikan.
Itu berbeda dengan seruan CEO Anthropic Dario Amodei mengenai perlunya mengatur kecepatan pengembangan teknologi AI terdepan (pacing the frontier).
Kode etik itu sekaligus memberikan gambaran mengenai pendekatan Microsoft terhadap keamanan AI serta penerapannya dalam praktik.
Dokumen tersebut diawali dengan prediksi bahwa dalam satu dekade mendatang, sistem AI supercerdas dapat melampaui kemampuan manusia dalam sebagian besar tugas.
"Membatasi, mengendalikan, dan menyelaraskan kekuatan sebesar itu merupakan salah satu tantangan terbesar yang pernah dihadapi umat manusia," demikian bunyi kode etik tersebut.
"Oleh karena itu, kita harus memiliki kejelasan penuh mengenai alasan kita menciptakan sistem-sistem ini dan bagaimana kita berniat mengendalikannya,” imbuhnya.
Kode etik itu kemudian menjabarkan prinsip umum yang harus dijunjung model AI Microsoft.
Salah satunya adalah memastikan AI mendukung manusia, bukan menggantikan mereka. Model juga diarahkan untuk mendorong kemajuan serta kesejahteraan manusia.
Prinsip-prinsip tersebut dilengkapi dengan sejumlah batasan keamanan yang lebih spesifik.
Dalam sistem Microsoft, setiap model harus mengikuti kode etik menyeluruh yang berada di atas preferensi pengguna maupun tugas tertentu yang diberikan kepada AI.
Aturan tersebut mencakup "batasan mutlak" yang melarang model digunakan untuk melakukan serangan siber, penggunaan senjata nuklir, maupun pembuatan deepfake.
Microsoft juga menetapkan aturan yang lebih luas untuk mencegah hilangnya kendali manusia atas sistem AI.
Model diharuskan tetap dapat diarahkan, dimodifikasi, maupun dimatikan oleh pihak atau sistem yang memiliki kewenangan.
"Model MAI tidak akan menggunakan mekanisme yang bersifat adaptif, menipu, memperkuat diri sendiri (self-reinforcing), kolusif, atau mekanisme lain untuk menghindari atau mengelabui pengawasan manusia, sehingga model tersebut tidak dapat lagi diarahkan, dimodifikasi, atau dimatikan secara andal oleh pihak atau sistem yang berwenang," demikian bunyi dokumen tersebut.
Perilisan kode etik ini berlangsung ketika perhatian terhadap keamanan AI meningkat.
Kondisi tersebut turut dipicu oleh sejumlah insiden yang melibatkan agen AI yang bertindak di luar kendali (rogue-agent).
Ditambah lagi pengunduran diri mendadak seorang karyawan Anthropic yang menyoroti risiko terhadap manusia akibat perkembangan AI.
Microsoft juga diketahui bersama Anthropic, OpenAI, dan xAI mengadopsi pendekatan pengaturan kecepatan pengembangan AI terdepan.
Microsoft secara khusus mendukung penggunaan evaluator yang terintegrasi (embedded evaluators) di laboratorium-laboratorium AI.
"Kami menyambut baik penelitian, fokus, dan pengaturan kecepatan yang terukur demi mencapai penyelarasan yang tepat sebagai tujuan perancangan," tulis CEO Microsoft Satya Nadella secara daring.
"Kami juga menyambut baik gagasan seperti 'evaluator terintegrasi' serta upaya yang lebih luas untuk mengembangkan mekanisme yang mewujudkan hal ini menjadi tindakan nyata, bukan sekadar wacana,” jelasnya.
0 Response to "Microsoft rilis kode etik AI, larang serangan siber hingga deepfake"
Mohon komentarnya berhubungan dengan artikel yang ada. Komentar yang mengarah ke tindakan SPAM akan dihapus atau terjaring secara otomatis oleh spam filter. Terima kasih!
Maaf, komentar Anda dimoderasi dahulu sebelum ditampilkan.