Kementerian Komunikasi dan Digital (Komdigi) saat ini sedang menanggapi dugaan penyalahgunaan fitur kecerdasan buatan (AI) bernama Grok AI yang terdapat di platform X. Teknologi ini diduga digunakan untuk memproduksi dan menyebarkan konten yang berunsur asusila, termasuk teknik manipulasi foto pribadi, seperti deepfake, tanpa persetujuan dari individu yang bersangkutan.
Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menjelaskan bahwa hasil penelusuran awal menunjukkan Grok AI belum dilengkapi dengan sistem pengamanan yang memadai. Hal ini menimbulkan kekhawatiran terkait privasi dan hak atas citra diri individu di Indonesia.
Ia menegaskan bahwa kurangnya pengaturan khusus untuk mencegah konten pornografi yang berbasis foto warga Indonesia akan berpotensi melanggar privasi para korban. Kondisi ini dapat menciptakan situasi di mana hak-hak individu terancam oleh penyalahgunaan teknologi.
Pengawasan dan Tindakan Proaktif terhadap AI
Komdigi berupaya melakukan pengawasan ketat terhadap penggunaan teknologi AI untuk mencegah terjadinya penyalahgunaan lebih lanjut. Menurut Alexander, penting untuk segera melakukan evaluasi terhadap pengoperasian Grok AI guna menilai dampak dan risiko yang mungkin timbul.
Selain itu, langkah-langkah proaktif juga perlu diambil dengan menyusun regulasi yang lebih tegas mengenai penggunaan teknologi AI. Regulasinya harus melindungi hak-hak individu serta mencegah penyebaran konten yang merugikan.
Langkah ini diharapkan dapat mengurangi peluang terjadinya penyalahgunaan teknologi oleh pihak-pihak yang tidak bertanggung jawab. Komdigi juga berupaya untuk membangun kerjasama dengan berbagai pihak terkait untuk meningkatkan kesadaran publik tentang pentingnya privasi dan keamanan digital.
Perlunya Kolaborasi antara Pemerintah dan Platform Digital
Kerjasama antara Komdigi dan penyelenggara platform digital menjadi sangat penting untuk membangun sistem yang lebih aman. Sebagai bagian dari upaya ini, Komdigi mengajak platform X dan penyelenggara sistem elektronik lainnya untuk memperkuat moderasi konten yang ada.
Penyusunan pedoman dan regulasi yang jelas akan membantu mencegah potensi penyalahgunaan AI. Ini juga akan memberikan perlindungan yang lebih baik bagi pengguna dan mendorong pengembang teknologi untuk bertanggung jawab atas produk yang mereka ciptakan.
Alexander mengingatkan bahwa kepatuhan terhadap undang-undang di Indonesia adalah hal yang harus dipatuhi oleh semua platform. Apabila masih ditemukan pelanggaran, pihaknya tidak segan mengambil tindakan tegas.
Risiko Sosial dan Psikologis dari Penyalahgunaan Konten Digital
Penyebaran konten digital yang buruk dapat menimbulkan dampak psikologis yang serius bagi korban. Menurut penelitian, individu yang menjadi sasaran manipulasi gambar sering mengalami penurunan kepercayaan diri dan masalah mental lainnya akibat pelecehan yang terjadi.
Selain dampak psikologis, efek sosial juga terlihat dalam pengucilan dan stigma yang dialami oleh korban. Masyarakat perlu diberi contoh tentang pentingnya etika dalam penggunaan teknologi, termasuk dalam hal ini penggunaan AI.
Dengan meningkatkan kesadaran dan pemahaman, diharapkan masyarakat dapat lebih berhati-hati dalam berbagi informasi dan gambar pribadi di internet. Penting untuk menciptakan lingkungan digital yang aman bagi semua orang.
