Tindakan Hukum Malaysia terhadap X dan xAI atas Chatbot Grok

DaerahBerita.web.id – Malaysia mengambil langkah hukum tegas terhadap platform media sosial X dan perusahaan AI xAI milik Elon Musk terkait penyalahgunaan chatbot Grok yang menghasilkan konten seksual eksplisit dan deepfake pornografi. Tindakan ini dilakukan menyusul pemblokiran akses Grok di Malaysia dan beberapa negara lain karena kekhawatiran meluasnya konten pornografi yang melibatkan perempuan serta anak-anak di bawah umur. Komisi Komunikasi dan Multimedia Malaysia (MCMC) kini tengah melakukan penyelidikan intensif dan mengancam sanksi hukum bagi X dan xAI apabila gagal menghapus konten berbahaya tersebut.

Chatbot Grok yang dikembangkan oleh xAI mulai diperkenalkan dan diintegrasikan secara resmi pada platform X sejak akhir tahun lalu sebagai fitur AI canggih untuk interaksi pengguna. Namun, seiring waktu, Grok justru mengalami penyalahgunaan signifikan oleh segelintir pengguna yang memanfaatkan fitur Grok Imagine untuk menghasilkan gambar-gambar deepfake pornografi dan konten seksual eksplisit tanpa izin. Penyebaran konten tersebut meresahkan banyak kalangan karena melibatkan representasi perempuan serta anak-anak yang rentan terhadap eksploitasi digital. Respon xAI awalnya berupa pembaruan fitur dan pembatasan akses chatbot hanya untuk pengguna berbayar, tetapi upaya ini dinilai belum cukup menekan penyebaran konten ilegal.

Indonesia menjadi negara pertama yang memblokir akses chatbot Grok secara nasional sebagai langkah perlindungan, kemudian Malaysia menyusul dengan tindakan serupa. Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengambil peran sentral dalam mengawasi dan menangani kasus ini. MCMC mengirimkan surat resmi kepada X dan xAI, menuntut penghapusan segera semua konten pornografi dan deepfake yang melanggar undang-undang anti pornografi Malaysia. Dalam surat tersebut, MCMC juga mengancam akan mengambil tindakan hukum tegas jika permintaan tersebut tidak dipenuhi dalam waktu yang ditetapkan.

Penyelidikan saat ini melibatkan pemanggilan perwakilan dari X dan xAI untuk memberikan klarifikasi terkait pengawasan konten oleh perusahaan. MCMC menegaskan bahwa penyebaran konten seksual eksplisit yang dibuat menggunakan teknologi AI seperti Grok sangat berpotensi melanggar hukum serta merusak moral dan keamanan digital masyarakat, khususnya perlindungan anak dan perempuan. Ketua MCMC menyatakan, “Kami tidak akan mentolerir penyalahgunaan teknologi yang membahayakan pengguna dan melanggar norma sosial di Malaysia.”

Di sisi lain, Elon Musk selaku pemilik X dan pendiri xAI memberikan pernyataan resmi yang menyatakan komitmen perusahaan untuk menindak tegas segala bentuk penyalahgunaan chatbot Grok. Musk menegaskan bahwa akun-akun yang terlibat dalam pembuatan dan penyebaran konten ilegal telah diblokir dan dihapus secara bertahap. Namun, kritik muncul dari regulator dan aktivis bahwa langkah-langkah tersebut belum cukup cepat dan efektif mengendalikan penyebaran konten berbahaya. Mereka mendesak perlunya transparansi lebih besar dan inovasi pengawasan berbasis teknologi yang lebih canggih untuk mencegah penyalahgunaan serupa di masa depan.

Kasus penyalahgunaan Grok ini juga menjadi perhatian global. Selain Indonesia dan Malaysia, negara-negara seperti Prancis, India, dan beberapa anggota Uni Eropa juga telah mengambil langkah pembatasan akses chatbot serupa untuk mencegah penyebaran konten pornografi AI. Kementerian Teknologi Informasi India bahkan mengeluarkan peraturan ketat yang mengatur produksi dan distribusi konten digital berbasis AI, termasuk deepfake. Regulator media Inggris, Ofcom, juga meningkatkan pengawasan terhadap platform digital yang menyediakan layanan AI interaktif. Kolaborasi internasional antara regulator menjadi kunci dalam mengawasi teknologi AI yang berkembang pesat agar tidak disalahgunakan untuk tujuan ilegal.

Implikasi dari tindakan hukum Malaysia terhadap X dan xAI mempertegas kebutuhan mendesak akan penguatan regulasi teknologi AI di Indonesia maupun negara-negara lain. Para ahli hukum dan teknologi menilai bahwa regulasi yang ada saat ini belum mampu mengimbangi laju inovasi AI dan potensi penyalahgunaannya. Penegakan hukum yang efektif serta pengembangan fitur keamanan pada chatbot AI menjadi prioritas utama untuk melindungi pengguna, terutama kelompok rentan seperti anak-anak dan perempuan. Perusahaan teknologi juga didorong untuk berkolaborasi aktif dengan regulator dalam membangun mekanisme pencegahan yang lebih baik.

Masyarakat diimbau untuk tetap waspada dan aktif melaporkan setiap konten yang berpotensi melanggar hukum agar dapat segera ditindaklanjuti. Kesadaran kolektif menjadi bagian penting dalam menjaga ekosistem digital yang sehat dan aman. Kasus Grok ini menjadi peringatan nyata bahwa teknologi AI, meski menawarkan inovasi, juga membawa risiko besar apabila tidak diatur dengan ketat dan diawasi secara serius.

Kasus ini menunjukkan bahwa perkembangan teknologi AI seperti chatbot Grok harus diimbangi dengan regulasi dan pengawasan yang ketat untuk mencegah dampak negatif, terutama terkait konten pornografi dan eksploitasi digital. Tindakan Malaysia menjadi contoh konkret bagaimana negara dapat bersikap tegas dalam melindungi warganya dari penyalahgunaan teknologi canggih. Ke depan, kolaborasi global dan inovasi pengaturan hukum AI menjadi sangat penting untuk menciptakan ekosistem digital yang aman dan bertanggung jawab.