Kemeja Bermotif Ini Bisa Mengecoh Kamera AI, Begini Cara Kerjanya
Teknologi.id - Sebuah kemeja dengan motif abstrak ternyata bisa membuat sistem pendeteksi objek berbasis AI gagal mengenali pemakainya sebagai manusia.
Kemeja tersebut bernama Digital Camouflage, karya seniman dan desainer asal Jerman, Simon Weckert. Sekilas, pakaian ini terlihat seperti kemeja bermotif warna-warni dengan pola yang cukup mencolok. Namun, motif tersebut sengaja dirancang untuk mengganggu cara sistem computer vision mengenali sosok manusia.
Dalam demonstrasi Digital Camouflage, sistem pendeteksi objek memberikan label "person" kepada orang-orang yang tertangkap kamera. Namun, ketika seseorang mengenakan kemeja tersebut, sistem yang digunakan dalam pengujian tidak lagi mendeteksi pemakainya sebagai manusia.
Lantas, bagaimana sebuah motif pada kain bisa membuat AI keliru?
Baca juga: Meta One Resmi di Indonesia, Mulai Rp13.900 Dapat Fitur Premium WhatsApp
AI Dilatih untuk Mengganggu Deteksi AI
Digital Camouflage memanfaatkan teknik yang dikenal sebagai adversarial attack.
Secara sederhana, adversarial attack merupakan metode untuk memanipulasi informasi visual yang diterima model AI sehingga sistem memberikan hasil deteksi yang keliru.
Pada Digital Camouflage, pola pada kain dirancang untuk mengganggu fitur visual yang dicari sistem pendeteksi ketika mencoba mengenali sosok manusia.
Weckert mengembangkan dan menguji pola tersebut menggunakan sistem YOLO (You Only Look Once) berbasis open source. Dalam pengujian tersebut, sistem pendeteksi berhenti mengenali pemakai kemeja sebagai objek "person".
Jadi, pemakainya bukan benar-benar menghilang dari kamera. Kamera tetap dapat merekam orang tersebut, tetapi model AI yang digunakan dalam demonstrasi mengalami kesulitan mengklasifikasikannya sebagai manusia.
Kenapa Motif Kemeja Bisa Mengganggu AI?
Sistem computer vision bekerja dengan menganalisis informasi visual dari sebuah gambar atau video untuk mengenali objek tertentu.
Dalam kasus Digital Camouflage, pola pada pakaian dibuat sedemikian rupa sehingga mengganggu karakteristik visual yang digunakan model untuk mendeteksi manusia.
Hal inilah yang membuat sebuah pakaian dapat menjadi bagian dari adversarial attack di dunia nyata, bukan sekadar manipulasi gambar secara digital.
Weckert juga mencantumkan sejumlah penelitian tentang adversarial clothing dan adversarial texture sebagai dasar teknis proyek tersebut.
Bukan Berarti Semua Kamera AI Bisa Dikelabui
Meski demonstrasinya menarik, Digital Camouflage tidak berarti bisa mengecoh semua kamera pengawas berbasis AI.
Pengujian proyek menggunakan sistem pendeteksi objek YOLO generik dan open source. Hasilnya juga dapat dipengaruhi oleh sejumlah kondisi, termasuk model yang digunakan, jarak, sudut kamera, dan pencahayaan.
Karena sistem pengawasan yang digunakan di tempat lain dapat memakai model dan konfigurasi berbeda, tidak ada jaminan pola yang sama akan menghasilkan efek serupa.
Weckert sendiri menegaskan bahwa proyek tersebut tidak mengklaim dapat mengalahkan setiap sistem dalam semua kondisi.
Terlebih lagi, proyek ini tidak dibuat sebagai alat yang menjamin seseorang dapat menghindari seluruh sistem pengawasan.
Digital Camouflage Bukan Baju untuk Menghilang dari Kamera
Hal penting lainnya, Digital Camouflage bukan pakaian yang membuat seseorang tidak terlihat oleh kamera.
Kamera tetap dapat menangkap gambar pemakainya. Yang terganggu adalah proses pengenalan objek oleh model AI tertentu.
Perbedaan ini penting karena sistem kamera dapat memiliki beberapa lapisan teknologi berbeda. Kegagalan satu model pendeteksi objek tidak otomatis berarti seluruh sistem pengawasan tidak dapat mengenali atau merekam seseorang.
Karena itu, Digital Camouflage lebih tepat disebut sebagai pakaian yang dirancang untuk mengganggu deteksi AI tertentu, bukan "baju anti-kamera".
Baca juga: Viral di Medsos! Begini Cara Bikin Foto Jadi Gaya 80-an Pakai ChatGPT
Proyek Seni untuk Mengkritik Pengawasan AI
Selain sisi teknologinya, Digital Camouflage juga memiliki pesan yang lebih luas.
Weckert membuat proyek ini sebagai bentuk kritik terhadap semakin luasnya penggunaan teknologi computer vision untuk mengawasi ruang publik. Melalui karyanya, ia mempertanyakan seberapa besar kepercayaan yang seharusnya diberikan kepada sistem AI ketika teknologi tersebut digunakan untuk mengenali manusia.
Demonstrasi ini juga menunjukkan salah satu keterbatasan model AI: sistem yang terlihat sangat canggih tetap dapat menghasilkan kesalahan ketika berhadapan dengan kondisi yang sengaja dirancang untuk mengganggu proses deteksinya.
Weckert menegaskan bahwa Digital Camouflage bukan alat untuk menghindari polisi atau jaminan anonimitas. Proyek tersebut justru ingin menunjukkan persoalan mengenai bagaimana manusia berinteraksi dengan sistem pengawasan yang bekerja menggunakan algoritma.
Kemeja Bermotif Jadi Contoh Keterbatasan AI
Digital Camouflage memperlihatkan bahwa perubahan pada tampilan fisik sebuah objek dapat memengaruhi hasil deteksi model AI tertentu.
Namun, keberhasilan dalam demonstrasi tidak bisa digeneralisasi ke seluruh kamera atau sistem pengawasan AI. Efeknya bergantung pada model, kondisi pengambilan gambar, serta sistem yang digunakan.
Dengan demikian, hal menarik dari proyek ini bukan sekadar kemeja yang "bisa mengecoh AI", tetapi bagaimana sebuah karya seni dapat memperlihatkan batas dan kerentanan teknologi computer vision yang digunakan untuk mengenali manusia di dunia nyata.
Baca Berita dan Artikel yang lain di Google News.
(dwk)