Google sedang mengeksplorasi cara untuk memastikan bahwa kita selalu bisa mematikan sistem AI (kecerdasan buatan) dalam segala situasi dan kondisi. Ini adalah upaya pencegahan agar apa yang sering kita lihat di film, yaitu ketika robot buatan manusia justru menjadi jahat dan tak terkendali tidak terjadi di dunia nyata.

PUGAM.com – DeepMind, perusahaan kecerdasan buatan milik Google itu menjadi terkenal setelah sistem kecerdasan buatan milik mereka, AlphaGo mengalahkan juara dunia permainan Go, Lee Sedol. Namun, DeepMind dibentuk ternyata bukan hanya untuk itu.

DeepMind bekerja untuk melakukan lebih banyak hal daripada sekedar mengalahkan manusia di papan catur Go. Algoritma AI sendiri dikembangkan untuk sesuatu yang lebih besar, yaitu untuk memecahkan persoalan intelijen dan pada dasarnya sistem dituntut untuk dapat belajar sendiri.

Ini tentu saja menimbulkan beberapa kekhawatiran, yakni apa yang akan terjadi jika robot AI terserang virus sehingga menjadi jahat dan tak terkendali?

Dalam sebuah makalah yang ditulis oleh para peneliti di DeepMind, bekerjasama dengan Future of Humanity Institute dari Universitas Oxford, mereka mencatat bahwa sistem AI tidak mungkin dapat berperilaku secara optimal sepanjang waktu, dan operator manusia dirasa perlu untuk menekan tombol “off” untuk mencegah sistem menimbukan kerusakan.

Dengan kata lain, kita sebagai manusia sekaligus operator perlu sebuah tombol atau fungsi yang dapat ‘membunuh’ atau mematikan sistem dalam segala situasi.

Memahami DeepMind

Co-founder DeepMind, Mustafa Suleyman menekankan bahwa DeepMind lebih dari sekedar perusahaan yang memproduksi sistem kecerdasan buatan hanya untuk game. Seperti yang sudah disinggung di awal artikel bahwa DeepMind membuat sistem kecerdasan butan umum (AGI), yang berarti bahwa sistem itu belajar dari masukan baku untuk menyelesaikan tugas-tugas yang diberikan tanpa adanya pre-pemrograman, sedangkan AI sepenuhnya akan belajar dari tugas-tugas khusus yang diberikan. Pada akhirnya, mereka akan menjalankan sistem sebagai “Agen” yang memiliki kontrol penuh.

Mungkin Anda bertanya-tanya, jika AI dapat berkembang menjadi lebih pintar maka apakah ada kemungkinan mereka mempelajari upaya pencegahan yang diciptakan oleh manusia itu sendiri seperti “tombol off” tadi? Ada makalah berjudul “Safely Interruptible Agents”, yang membahas mengenai bagaimana caranya mencegah sistem AI untuk menganggu fungsi “tombol off” atau hal-hal lain yang bisa mengakibatkan gagalnya upaya penonaktifan.

Kekhawatiran

Pada kenyataannya, AI terus tumbuh dan berkembang dari tahun ke tahun. Mereka semakin dekat dengan kemampuan manusia dalam menyelesaikan tugas-tugas, bahkan dalam beberapa hal mereka justru lebih baik dari kita. Suleyman menyatakan bahwa, dalam kaitannya dengan pengenalan gambar, DeepMind mampu memproses sekitar satu juta gambar dengan tingkat kesalahan hanya 16% pada tahun 2012, dan pada tahun 2015 turun menjadi 5,5%.

Sehingga masuk akal jika kita mulai mengambil langkah-langkah pencegahan untuk memastikan bahwa sistem AI tetap aman serta tetap berada di bawah pengawasan operator manusia.