Telegram juga telah menghapus sejumlah bot lain yang menawarkan layanan serupa dan mengatakan bahwa mereka tidak mentolerir bot yang menyalahgunakan layanan mereka.
teknoflux.com – JAKARTA – Sebuah penyelidikan terbaru telah mengungkapkan bahwa jutaan pengguna telah menggunakan chatbot berbasis AI di Telegram untuk membuat gambar telanjang dan eksplisit dari orang sungguhan.
Menurut laporan yang diterbitkan oleh Wired, pengguna dapat dengan mudah mengubah foto dengan hanya beberapa klik menggunakan bot ini, sehingga menciptakan foto palsu yang menghilangkan pakaian dari gambar atau menambahkan aktivitas seksual.
Dilansir oleh Wion News, laporan tersebut juga menyatakan bahwa chatbot ini telah digunakan oleh lebih dari empat juta pengguna setiap bulannya untuk membuat deepfake.
Ketika para ahli, seperti Henry Ajder, mengungkapkan kekhawatiran mereka terhadap situasi ini, mereka menekankan bahwa bot semacam itu dapat menimbulkan risiko serius, terutama bagi gadis dan wanita muda.
Ajder sendiri telah menemukan chatbot eksplisit ini empat tahun lalu di platform media sosial dan ia menyatakan bahwa situasi ini sangat memprihatinkan karena masih banyak orang yang aktif menggunakannya.
“Sangat mengkhawatirkan bahwa alat-alat ini, yang dapat merusak kehidupan dan menciptakan skenario yang sangat mengerikan, masih begitu mudah diakses dan ditemukan di salah satu aplikasi terbesar di dunia,” jelasnya.
Telegram, yang awalnya dikenal sebagai layanan terjemahan dan peringatan, kini telah menjadi pusat bagi berbagai bot berbahaya tersebut.
Wired juga mencatat bahwa ketika mereka mencoba menghubungi perusahaan tersebut, mereka tidak menerima respons apapun, namun bot tersebut kemudian menghilang dari platform.
Menurut laporan, bot deepfake ini memiliki nama dan deskripsi yang jelas merujuk pada konten yang melibatkan ketelanjangan dan pelepasan pakaian wanita.
Telegram sendiri telah menghapus sejumlah bot lain yang menawarkan layanan serupa dan menyatakan bahwa mereka tidak akan mentolerir bot yang menyalahgunakan layanan mereka.