teknoflux.com – Aktor yang berada di balik video AI palsu yang dibuat oleh Synthesia angkat bicara. Dalam beberapa tahun terakhir, avatar yang dibuat oleh AI telah menjadi tren dan mampu menyampaikan naskah yang diminta dengan sangat meyakinkan.
Namun, tidak hanya digunakan untuk tujuan yang baik, video tersebut juga seringkali digunakan untuk propaganda dan mempromosikan pemimpin junta militer dan kediktatoran. Kini, beberapa aktor yang terlibat dalam pembuatan video tersebut angkat bicara dan mengungkapkan pendapat mereka.
Avatar manusia yang dihasilkan oleh AI memang mampu menyampaikan naskah dengan diksi yang sempurna dan terlihat sangat alami. Namun, bagaimana jika video tersebut digunakan untuk mendukung rezim represif dan perusahaan kriminal? Hal inilah yang terjadi dengan avatar yang dihasilkan melalui aplikasi AI Synthesia, dan para aktor yang terlibat dalam pembuatannya kini angkat bicara.
Menurut laporan dari The Guardian, Synthesia yang merupakan perusahaan rintisan dengan kantor pusat di London dan baru-baru ini mencapai status unicorn (nilai pasar USD1 miliar), digunakan untuk mendukung Ibrahim Traoré yang memimpin kudeta militer di Burkina Faso pada tahun 2023.
Pembawa berita AI yang dipersiapkan dengan baik digunakan dalam video yang muncul di platform seperti Telegram, meminta orang-orang untuk mendukung pemimpin junta yang kemudian menjadi presiden. Hal ini tentu melanggar ketentuan layanan dari Synthesia sendiri yang sebenarnya ditujukan untuk membuat video pemasaran.
Para aktor yang sebelumnya digunakan untuk melatih model AI, merasa dikhianati dan kesehatan mental mereka terpengaruh karena terlibat dalam pembuatan video propaganda yang kontroversial. Meskipun Synthesia mengklaim telah meningkatkan moderasi kontennya, The Guardian masih dapat membuat video dengan memberinya skrip yang kontroversial. Hal ini tentu menimbulkan pertanyaan tentang keamanan dan etika dalam penggunaan teknologi AI ini.
