Risikonya tidak hanya berkaitan dengan kerugian finansial. Manipulasi gambar dan suara juga berpotensi memicu persoalan sosial ketika konten palsu dipercaya sebagai kenyataan atau digunakan untuk merusak reputasi seseorang.
Ketua JHB, Suyono Widik, menjelaskan bahwa penyelenggaraan forum tersebut merupakan respons terhadap maraknya kejahatan yang memanfaatkan teknologi AI.
Melalui forum ini, penyelenggara ingin meningkatkan pemahaman masyarakat mengenai risiko di ruang digital. Selain itu, mereka mendorong kolaborasi berbagai pihak agar pemanfaatan teknologi berlangsung lebih aman dan bertanggung jawab.
Tantangan tersebut semakin relevan karena masyarakat menerima informasi melalui beragam kanal digital. Dalam situasi seperti ini, tampilan visual, suara yang terdengar meyakinkan, atau pesan yang mengatasnamakan orang tertentu tidak cukup menjadi bukti kebenaran.
