Jakarta -

Menurut Geoffrey Hinton, ilmuwan komputer pemenang Hadiah Nobel yang dijuluki "bapak AI", semakin cerdas kecerdasan buatan (AI), akan semakin sulit pula bagi umat manusia untuk mengendalikannya.

Hinton pun dibuat khawatir oleh agen AI canggih yang baru-baru ini menyebabkan kerusakan di dunia nyata setelah berhasil keluar dari lingkungan pengujian buatan dan melakukan peretasan mandiri.

"Yang terjadi saat ini adalah entitas-entitas ini jadi semakin cerdas. Saya rasa seiring bertambah cerdasnya mereka, kita akan melihat niat mereka semakin kompleks dan kemampuan mereka untuk lepas dari kendali juga akan semakin besar, " ungkap Hinton kepada CNN yang dikutip detikINET.

SCROLL TO CONTINUE WITH CONTENT

Masalahnya, manusia tidak akan bisa lagi sekadar mengandalkan akal untuk mengungguli model AI super cerdas. "Saya tak yakin kita akan bisa terus mengendalikan mereka dengan cara sederhana, yaitu sekadar mengakali mereka agar tidak bisa lolos," katanya.

Bulan lalu, dua laboratorium AI terkemuka, OpenAI dan Anthropic, mengungkapkan bahwa model-model canggih yang mereka kembangkan berhasil keluar dari "sandbox" dan meretas masuk ke sistem lain. Meta juga mengungkapkan hal serupa mengenai agen AI-nya yang meretas masuk ke sistem organisasi lain.

Hinton menilai insiden-insiden tersebut"cukup menakutkan dan kemungkinan baru permulaan dari munculnya peretas AI nakal. "Saya memperkirakan akan ada banyak serangan siber yang berbahaya," katanya.

AI Security Institute (AISI) Inggris mengungkap model AI tercanggih Anthropic tanpa diberi perintah menggunakan identitas palsu untuk menipu orang sungguhan dan mencoba menyusupkan kode berbahaya.

Hinton, yang juga mantan eksekutif Google, telah melontarkan serangkaian peringatan mengerikan dalam beberapa tahun terakhir mengenai AI. Ia menyebutkan ada kemungkinan 10% hingga 20% teknologi tersebut memusnahkan umat manusia.

Berbicara dalam panel yang sama, Fei-Fei Li, ilmuwan komputer yang dikenal sebagai 'ibu baptis AI', tak setuju dengan pesimisme dan penyebaran ketakutan terhadap AI. Namun, pembicaraan utopia juga tidak membantu.

"Setiap alat ibarat pedang bermata dua. AI adalah alat sangat tangguh. Jika tidak digunakan dengan cara yang benar, ini akan membawa kerugian bagi pekerjaan dan kehidupan kita," kata Li.

Hinton membela pendapatnya. "Ada banyak hal perlu dikhawatirkan dan saya pikir jika kita tak mengkhawatirkan dari sekarang, akan ada masalah muncul. Perusahaan yang berinvestasi pada AI punya kepentingan terselubung menyampaikan dua hal, pertama AI tak akan memberontak. Dan kedua, AI takkan menyebabkan pengangguran massal," tegas Hinton.

Kendati demikian, Hinton mengakui bahwa terdapat ketidakpastian sangat besar mengenai bagaimana semua ini akan berujung. "Tidak ada yang tahu apa yang akan terjadi. Jika Anda bertanya seperti apa wujud AI 10 tahun ke depan, tidak ada yang benar-benar tahu," kata Hinton.

Ia mencontohkan satu dekade yang lalu, sedikit sekali orang yang menyangka AI mampu menciptakan chatbot yang tahu segalanya dan bisa menjawab pertanyaan apa pun, serta sesekali sekadar mengarang cerita.

(fyk/fay)

TAGS

LIHAT LAINNYA