Batam - Kecerdasan buatan (AI) dalam level tinggi diprediksi sukar dikontrol manusia yang memungkinkan munculnya 'pemberontakan robot'. Kenapa bisa begitu?

Contoh pemberontakan AI ini bisa dilihat di semesta Marvel lewat karakter Ultron. Ia mulanya lahir sebagai robot yang memiliki kecerdasan buatan (AI) hasil kreasi sang Iron Man Tony Stark yang dibantu The Hulk Bruce Banner.

Tujuannya adalah untuk pertahanan Bumi dari serangan 'alien'. Ddalam perjalannya, ia justru menjadi musuh para Avengers lantaran tak terkontrol sehingga terpaksa dihancurkan.

Baca juga: Mengenal Sistem Parkir Canggih Berbasis Kecerdasan Buatan

Di dunia nyata, mungkinkah muncul robot seperti Ultron? Melansir Science Alert, manusia ternyata tidak bisa benar-benar mengontrol komputer yang menggunakan kecerdasan super.

Mengontrol komputer dengan kecerdasan super membutuhkan simulasi kecerdasan super yang bisa dianalisa dan dikontrol manusia. Namun jika manusia tak bisa memahaminya, mustahil untuk membuat simulasi tersebut.

Manusia tidak bisa menciptakan peraturan seperti 'tidak menyakiti manusia' jika manusia itu sendiri tidak mengerti skenario seperti apa yang bisa dibuat AI. Padahal, sekali komputer itu bekerja di atas level para pemrogram, manusia tak lagi bisa mengatur batasannya.

Baca juga: Elon Musk Sudah Waspadai Kecerdasan Buatan

"Kecerdasan super memuat masalah fundamental berbeda daripada yang biasa dipelajari dalam payung 'etika robot," tulis para ahli.

"Ini karena kecerdasan super itu multi-faset. Oleh karena itu, mereka mampu memobilisasi beragam sumber daya berbeda untuk mencapai tujuan yang bisa saja tidak bisa dicerna manusia, atau dikontrol," tulis mereka lagi.

Di sisi lain, mengutip Max Planck Gesellschaft, kecerdasan super yang bisa mengontrol dunia terkesan seperti fiksi.

"Namun sudah ada beberapa mesin yang bekerja menyelesaikan beberapa tugas penting tanpa bisa dimengerti para pemrogram. Pertanyaan yang timbul kemudian apakah mereka bisa di titik tertentu bisa tak terkontrol dan berbahaya bagi manusia," kata Manuel Cebrian, Kepala Digital Mobilization Group di Center for Humans and Machines, Max Planck Institute for Human Development.

Para ilmuwan sendiri telah mengeksplorasi dua ide berbeda tentang mengontrol AI dengan kecerdasan super. Kecerdasan AI itu bisa dibatasi secara spesifik misalnya dengan memblok AI itu dari internet dan perangkat lain sehingga dia tak punya kontak dengan dunia luar.

Namun hal itu akan membuat AI itu tak punya kemampuan untuk menjawab masalah manusia. Di saat yang sama, AI tersebut akan termotivasi untuk mencapai tujuan yang paling baik untuk kemanusiaan, misalnya dengan menginput prinsip etik ke dalamnya.

Akan tetapi, para peneliti menunjukkan bahwa ide-ide itu atau ide kontemporer dan bersejarah lainnya untuk mengontrol AI dengan kecerdasan super, punya batasan sendiri.

Dalam studinya, tim ilmuwan merumuskan secara teoretis algoritma penahan (containment algorithm) yang memastikan AI dengan kecerdasan super tak bisa menyakiti manusia dalam segala kondisi. Hal itu dilakukan dengan mensimulasikan perilaku AI dan menghentikannya jika menunjukkan tanda-tanda bahaya.

Akan tetapi, analisa yang hati-hati menunjukkan, dalam paradigma komputasi manusia saat ini, algoritma tersebut tidak bisa dibuat. "Jika Anda memecahkan masalahnya hingga ke peraturan dasar ilmu komputer teoretis, terlihat bahwa sebuah algoritma yang memerintahkan AI tidak menghancurkan dunia, bisa tanpa disengaja menghancurkan ia sendiri," kata Iyad Rahwan, Direktur Center for Humans and Machines.

"Jika itu terjadi, Anda tidak akan tahu apakah algoritma penahan itu masih menganalisis ancaman, atau ia telah berhenti untuk menahan ancaman AI itu sendiri. Efeknya, itu membuat algoritma penahan tak bisa digunakan," katanya menambahkan.

Berdasarkan ujicoba itulah, para ahli merasa tidak ada satu algoritma pun yang dapat menentukan apakah AI akan menyakiti dunia. Lebih jauh, para ahli juga merasa waktu kedatangan AI dengan kecerdasan super belum dapat dipastikan.