Google DeepMind Temukan Cara Hentikan AI yang Bertindak Diluar Batas – Dalam beberapa tahun belakangan, Deep Mind, anak perusahaan milik Google menciptakan sebuah langkah besar dalam dunia Artificial Intelligence. Google sudah meneliti lebih jauh perihal keamanan dari penggunaan AI dan kali ini DeepMind berhubungan dengan Universitas Oxford mengeluarkan sebuah makalah yang isinya menjelaskan perihal pembuatan metode tombol matikan paksa yang sanggup dipakai untuk menghentikan AI yang bertindak diluar batas.
Dalam makalah itu, DeepMind mempunyai pemikiran bahwa biro cerdas dari artificial intelligent tidak selamanya bekerja optimal ketika berinteraksi dengan dunia nyata. Karenanya, hal ini penting semoga insan sanggup mencegah AI dalam melaksanakan tindakan yang berbahaya dan sanggup kembali ke situasi yang lebih aman. Makalah tersebut menjabarkan ancaman itu sendiri sebagai lingkungan sekitar atau biro itu sendiri.
Metode ini dibentuk oleh peneliti untuk memastikan AI tidak melindungi dirinya sendiri ketika prosesnya diinterupsi oleh manusia. Selama AI terus berkembang dan mendapatkan hadiah berupa pengetahuan yang didapatkan ketika sudah menuntaskan suatu pekerjaan, mungkin saja AI akan mempelajari untuk menghindari gangguan dari insan tersebut dan mengelakkan tombol tersebut.
Peneliti menyadari bahwa beberapa algoritma ibarat Q-Learning sanggup diinterupsi, disaat algoritma yang lainnya masih membutuhkan modifikasi untuk sanggup menerapkan hal yang sama. Bagaimanapun, hal ini masih belum terperinci apakah sanggup diterapkan ke semua algoritma pembelajaran.
Industri teknologi lainnya sudah memulai hal yang sama untuk memastikan bahwa AI tidak bekerja diluar batas. Tahun kemarin, Elon Musk, Peter Thiel, dan yang lainnya menciptakan sebuah perusahaan peneliti non-profit untuk memastikan AI dibangun dalam keadaan yang nantinya diperlukan tidak hanya menguntungkan manusia, namun juga aman. Musk mengulas kembali tujuan dari OpenAI pada Code Conference baru-baru ini.
Sumber aciknadzirah.blogspot.com
EmoticonEmoticon