Grok AI Disalahgunakan untuk Manipulasi Foto Asusila, Polri Ingatkan Ancaman Hukuman
Penyebaran Foto Asusila dengan Bantuan Grok AI
Belakangan ini, munculnya manipulasi foto asusila menggunakan teknologi AI, khususnya Grok AI di platform media sosial X, telah menjadi perhatian serius dari berbagai pihak. Hal ini menimbulkan kekhawatiran terhadap potensi pelanggaran hukum yang bisa dialami oleh pelaku yang memerintahkan tindakan tersebut. Untuk itu, Bareskrim Polri memberikan peringatan kepada masyarakat agar tidak sembarangan memberikan instruksi kepada Grok AI untuk melakukan manipulasi foto yang bersifat asusila.
Khususnya, jika perintah diberikan tanpa persetujuan dari figur atau individu yang foto mereka dimanipulasi. Direktur Tindak Pidana Siber (Dittipid Siber) Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, menjelaskan bahwa perkembangan teknologi saat ini sangat berkaitan dengan Artificial Intelligence (AI), termasuk deepfake yang menggunakan AI. Oleh karena itu, pihaknya sedang melakukan penyelidikan terkait hal tersebut.
Menurutnya, jika terbukti ada manipulasi data elektronik dalam bentuk foto yang diubah menggunakan AI tanpa persetujuan sosok dalam foto tersebut, maka polisi dapat mengambil langkah hukum dan melaksanakan proses pidana. Ia menegaskan bahwa selama bisa diklarifikasi bahwa foto tersebut merupakan hasil manipulasi data elektronik, maka tindakan tersebut bisa dipidana.
Peringatan dari Kepolisian dan Komunikasi Digital
Berdasarkan unggahan pada akun media sosial resmi @CCICPolri, disampaikan bahwa tindakan manipulasi foto yang ramai dilakukan oleh warganet dengan mengandalkan Grok AI tengah didalami. Pengelola akun tersebut juga meminta masyarakat segera melapor bila ada hal-hal yang perlu ditindaklanjuti. Mereka menyatakan akan melakukan pendalaman dan penyelidikan terhadap kasus yang dimaksud. Jika ada informasi lain yang perlu mereka tindak lanjuti, masyarakat dapat menghubungi melalui patrolisiber.id.
Selain itu, Kementerian Komunikasi dan Digital (Komdigi) juga sudah siap mengambil langkah tegas terhadap Grok AI dan X. Langkah tersebut mencakup sanksi administratif hingga pemutusan akses jika platform tersebut tidak patuh dan kooperatif terhadap aturan yang berlaku di Indonesia. Langkah tegas ini diambil menyusul maraknya penyalahgunaan Grok AI pada platform media sosial X, termasuk manipulasi foto pribadi tanpa persetujuan pemilik foto dan sosok dalam foto tersebut. Terutama manipulasi foto menjadi konten bermuatan asusila.
Peran Teknologi dalam Kejahatan Digital
Teknologi seperti AI dan deepfake memiliki potensi besar untuk digunakan secara positif, tetapi juga bisa menjadi alat yang disalahgunakan. Dengan kemampuan untuk menciptakan gambar atau video yang sangat realistis, teknologi ini bisa digunakan untuk memproduksi konten yang merusak reputasi seseorang atau bahkan menipu publik. Oleh karena itu, penting bagi masyarakat untuk lebih waspada dan bijak dalam menggunakan teknologi tersebut.
Pihak berwenang seperti Bareskrim Polri dan Kementerian Komunikasi dan Digital harus terus memperkuat regulasi dan mekanisme pengawasan untuk mencegah penyalahgunaan teknologi ini. Selain itu, edukasi kepada masyarakat tentang risiko dan konsekuensi hukum dari manipulasi digital juga sangat penting.
Solusi dan Tindakan yang Diperlukan
Untuk menghadapi tantangan ini, diperlukan kolaborasi antara pemerintah, lembaga penegak hukum, dan komunitas teknologi. Pemerintah harus terus memperbarui undang-undang terkait kejahatan siber agar sesuai dengan perkembangan teknologi. Sementara itu, lembaga penegak hukum perlu meningkatkan kapasitas dan kemampuan dalam menangani kasus-kasus yang melibatkan teknologi AI.
Di sisi lain, komunitas teknologi dan pengguna media sosial juga perlu sadar akan tanggung jawab mereka dalam menggunakan teknologi. Mereka harus memastikan bahwa teknologi digunakan secara etis dan bertanggung jawab. Dengan kesadaran dan kolaborasi yang baik, diharapkan penyalahgunaan teknologi seperti Grok AI dapat diminimalkan dan kejahatan digital dapat dicegah sejak dini.
