Unduh versi PDF di sini.
Pesan Utama
Konten buatan pengguna atau biasa disebut user-generated content (UGC) secara etis dan legal dimiliki oleh pembuat konten itu sendiri. Aturan kepemilikan ini berlaku terlepas dari apakah pembuat konten menawarkan sebuah produk atau layanan online, mengemukakan pandangan mereka akan suatu hal, membagikan informasi, analisis, atau opini dalam bentuk teks maupun multimedia.
Platform UGC disediakan oleh penyelenggara sistem elektronik (PSE) yang mempublikasikan konten yang dibuat dan diunggah langsung oleh para penggunanya, bukan oleh pihak penyelenggara itu sendiri. UGC terbentuk dari sejumlah informasi yang sangat beragam, termasuk gambar, video,komentar, dan penawaran produk yang diunggah di situs internet tertentu atau dibagikan melalui aplikasi pengirim pesan.
Peraturan Menteri Komunikasi dan Informatika (Kominfo) Nomor 5 Tahun 2020 melarang jenis konten tertentu, namun tidak memberikan definisi yang jelas, terutama untuk yang dianggap “meresahkan masyarakat dan mengganggu ketertiban umum”. Tanpa definisi jelas untuk konten yang dilarang, tugas untuk menyaring dan memoderasi konten pada platform PSE yang sejalan dengan peraturan pemerintah menjadi semakin rumit. Hal tersebut berisiko menyebabkan PSE terlalu berhati-hati hingga memblokir konten secara berlebihan karena ragu akan legalitas konten tersebut.
Peraturan Menteri Kominfo Nomor 5 Tahun 2020 menyatakan bahwa PSE dapat dibebaskan dari tanggung jawab hukum atas konten yang dilarang jika mereka mengelola sistem manajemen informasi elektronik dan platform pelaporan, serta memenuhi persyaratan moderasi konten yang memuaskan seperti yang diatur dalam Peraturan Menteri Kominfo.
Begitu ada laporan munculnya konten yang dilarang pada platform mereka, PSE harus menghapusnya dalam waktu 24 jam, atau 4 jam ketika dinilai mendesak, seperti pornografi anak, terorisme, atau konten yang dianggap bisa menyebabkan keresahan di tengah masyarakat. Dengan tidak jelasnya definisi konten yang meresahkan masyarakat dan mengganggu ketertiban umum, maka kemungkinan waktunya tidak akan cukup untuk merespons permohonan penghapusan.
Pembebasan PSE terkait UGC ini masih membingungkan karena disebutkan bahwa PSE lingkup privat berbasis UGC “dapat dibebaskan” dari liabilitas hukum setelah mereka memenuhi semua persyaratan moderasi konten. Pernyataan tersebut menunjukkan bahwa PSE lingkup privat masih bisa dianggap bertanggung jawab bahkan setelah mereka sudah memenuhi semua persyaratan. Pasal 11 harus direvisi dan dengan jelas menyatakan bahwa PSE Lingkup Privat “akan dibebaskan” dari tanggung jawab, alih-alih “dapat dibebaskan”.
Pemerintah harus mempertimbangkan untuk menggunakan cara koregulasi UGC bersamasama dengan pihak swasta. Adanya dialog antara pemerintah dan swasta serta pembagian tanggung jawab akan membantu proses hukum menjadi lebih relevan dan bisa terus berkembang seiring cepatnya perkembangan lanskap digital yang sangat dinamis dan agar tetap terbuka terhadap perkembangan inovasi dan teknologi.
Konten Buatan Pengguna (UGC) di Indonesia
Berbagai penyelenggara layanan internet di Indonesia mengizinkan lebih dari 175,4 juta pengguna untuk mengekspresikan gagasan mereka dan terlibat dalam kegiatan ekonomi (Hootsuite & We Are Social, 2020). Penyedia layanan tersebut termasuk penyedia jaringan internet atau internet service providers (ISPs), layanan hosting internet, platform media sosial, dan platform e-commerce (Chander, 2016). Di Indonesia, penyedia layanan online secara resmi dikategorikan sebagai Penyelenggara Sistem Elektronik (PSE) yang bisa berupa perorangan, milik pemerintah, usaha terdaftar, dan masyarakat yang menyediakan, mengelola, dan/atau menyelenggarakan sistem elektronik secara individu atau kolektif untuk pengguna mereka. Mereka memenuhi kebutuhan mereka sendiri atau juga kebutuhan pihak lain. Pihak penyelenggara menjadi host, menentukan lokasi, dan mencari UGC, kemudian memfasilitasi distribusinya. Lebih lanjutnya, rangkuman kebijakan ini akan berfokus pada peraturan yang berlaku untuk PSE lingkup privat.
UGC terdiri dari gambar, video, komentar, penawaran produk, konten dalam aplikasi pengiriman pesan, dan konten lain yang secara terus menerus dibuat oleh pengguna, yaitu pelanggan platform media sosial, atau pedagang pada sebuah platform e-commerce. Meluasnya penyebaran UGC telah berkontribusi terhadap lanskap ekonomi digital di Indonesia.
Banyaknya jumlah orang yang menggunakan platform UGC menggambarkan pentingnya UGC di Indonesia. The Digital 2020 Report menyatakan bahwa ada sekitar 160 juta pengguna media sosial di Indonesia dan 95% dari mereka aktif berkontribusi di dalamnya (Hootsuite & We Are Social, 2020). Indonesia memiliki 57 juta pengguna Instagram dan pengguna dari Indonesia diperkirakan merupakan pengguna yang paling aktif membuat dan mengunggah konten di fitur Instagram stories, hal ini menempatkan Indonesia sebagai pengguna aktif fitur Instagram stories yang paling banyak di dunia (McKinsey, 2018).
Sementara itu, Jakarta sebelumnya juga mendapat predikat kota dengan pengguna akun Twitter paling aktif di dunia (McKinsey, 2018). Para pengguna di Jakarta membuat dan mengunggah 2,4% dari 10,6 miliar kicauan yang diunggah selama Januari hingga Maret 2014 (Carley, Malik, Kowalchuck, Pfeffer & Landwehr, 2015), atau sama dengan 116.000 kicauan per jam.
Selain itu, platform UGC untuk e-commerce juga menambah kompleksitas ekosistem digital yang sudah ada. Ada 4,5 juta pedagang aktif di Indonesia yang membuat konten mereka sendiri di platform jual-beli. Menurut laporan media, platform jual-beli tersebut memfasilitasi 140 juta transaksi e-commerce di bulan Agustus 2020, setara dengan 188.000 transaksi per jam (Tempo, 2020). Banyaknya jumlah UGC di media sosial dan e-commerce tersebut memberikan gambaran manfaatnya untuk pendidikan masyarakat, dan juga untuk perekonomian, misalnya melalui pemberdayaan pengusaha perempuan dan peningkatan inklusi finansial. Maka dari itu, mengendalikan UGC bukan hanya tugas monumental semata, tetapi juga harus diantisipasi agar tidak terlalu mengurangi manfaat UGC itu sendiri.
Platform internet telah banyak digunakan untuk mempublikasikan konten yang dilarang oleh pemerintah Indonesia. Di antaranya yang mengandung pornografi, judi online, penjualan obat-obatan terlarang, serta penjualan flora dan fauna yang dilindungi. Per 2019, Kementerian Komunikasi dan Informatika Republik Indonesia menyatakan telah menerima lebih dari 430.000 laporan tentang konten terlarang yang diunggah di platform Penyelenggara Sistem Elektronik (Kominfo, 2020).
Sebetulnya kerangka kerja regulasi yang ada sudah mengatur pihak yang harus bertanggung jawab untuk mencegah penyebaran konten yang dilarang. Pada 2017 misalnya, Kominfo meminta pertanggungjawaban Facebook karena telah mewadahi kegiatan online Saracen, sebuah kelompok yang dinyatakan bersalah telah menyebarkan ujaran kebencian di media sosial (Islami, 2017). Di Indonesia, di mana demokrasi masih tergolong relatif muda, ujaran kebencian dan hoaks dianggap berbahaya dan telah dimasukkan ke dalam kategori konten yang dilarang. Selain itu, Kominfo juga mengumumkan bahwa mereka akan memberikan denda kepada platform media sosial yang memfasilitasi penyebaran hoaks (Kominfo, 2018).
Regulasi-Regulasi Terkait UGC
Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat (PSE Lingkup Privat) mendefinisikan PSE lingkup privat sebagai sistem elektronik yang dijalankan oleh orang, badan usaha, atau masyarakat. Dalam peraturan ini, Kominfo mewajibkan PSE lingkup privat untuk memastikan platform mereka tidak mengandung atau memfasilitasi transmisi konten yang dilarang. Konten yang dilarang didefinisikan sebagai konten yang melanggar Undang-Undang (UU) dan peraturan di Indonesia atau apapun yang meresahkan atau mengganggu ketertiban masyarakat. Definisi ini sesuai dengan Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik, yang merupakan dasar hukum Peraturan Menteri Kominfo Nomor 5 Tahun 2020.
Definisi konten yang dilarang telah mengalami perubahan dari peraturan sebelumnya. Peraturan Menteri Kominfo Nomor 19 Tahun 2014 terkait Penanganan Situs Internet Bermuatan Negatif lebih cenderung menganggap sebuah konten dilarang ketika konten tersebut mengandung materi pornografi, atau ketika konten tersebut dianggap ilegal menurut UU dan peraturan yang berlaku, serta konten-konten lain yang dilaporkan oleh kementerian dan badan pemerintah terkait. Dua tahun kemudian, Surat Edaran Menteri Kominfo Nomor 5 Tahun 2016 tentang Batasan dan Tanggung Jawab Penyedia Platform dan Pedagang (Merchant) Perdagangan Melalui Sistem Elektronik (Electronic Commerce) yang Berbentuk User Generated Content membagi konten yang dilarang menjadi konten negatif dan yang tidak memiliki izin. Namun, aturan tersebut hanya mengatur platform e-commerce dan tidak mengatur media sosial. Konten negatif di antaranya adalah yang mengandung pornografi, perjudian, konten gambar grafis yang mengandung kengerian, konten yang melanggar hak kekayaan intelektual, peretasan dan konten penyediaan narkoba, konten dengan materi ketidakjujuran, kecurangan, dan menyesatkan (penipuan dan skema pencucian uang), konten perdagangan manusia, dan materi yang berhubungan dengan rokok (Molina, 2017). Sementara itu, konten yang tidak berizin mengacu pada jasa dan produk yang tidak memiliki izin untuk dijual online, seperti senjata, narkoba, serta flora dan fauna yang dilindungi. Definisi ini lebih rinci jika dibandingkan dengan peraturan sebelumnya.
Peraturan Menteri Kominfo Nomor 5 Tahun 2020 kemudian mencabut Peraturan Menteri Kominfo Nomor 19 Tahun 2014. Akibatnya, istilah “konten negatif” tidak lagi digunakan, dan meskipun sudah ada upaya untuk memperjelas definisi konten yang dilarang, tetap masih terdapat ambiguitas. Di sebuah negara, di mana warga negara yang cenderung konservatif hidup berdampingan dengan pusat keramaian urban yang progresif, tidak ada konsensus tentang apa yang dianggap sebagai pornografi. Selain itu juga tetap tidak jelas apa yang dimaksud dengan meresahkan masyarakat dan mengganggu ketertiban umum. Ambiguitas tersebut membuat beberapa kementerian, badan, dan pihak penegak hukum membuat definisi mereka sendiri untuk mengendalikan konten di platform internet. Hal itu menimbulkan interpretasi yang berbeda-beda serta membingungkan. Absennya definisi yang jelas mengenai konten yang dilarang berakibat pada meningkatnya kerumitan moderasi konten oleh PSE lingkup privat. Selain itu, kondisi ini juga berisiko membuat penyelenggara online memblokir bahkan UGC yang sebetulnya diizinkan hanya karena adanya keraguan akan legalitas konten tersebut (De Streel et. al., 2020).
Pengendalian yang berlebihan atau sensor-mandiri yang bersifat preventif bisa mengancam kebebasan berekspresi di Indonesia. Berdasarkan pada Kovenan Internasional tentang Hak-Hak Sipil dan Politik, yang diratifikasi oleh pemerintah Indonesia pada 29 Oktober 2005, pemerintah bisa membatasi kebebasan berekspresi untuk tujuan keamanan nasional dan perlindungan harga diri manusia terhadap rasisme, hoaks, ujaran kebencian, dan penistaan (ICCPR, 1966, 1976). Pembatasan ini perlu dilakukan melalui UU dan peraturan.
(Tonton versi video dari Ringkasan Kebijakan "Siapa yang Bertanggung Jawab Atas Konten Buatan Pengguna di Platform Digital di Indonesia?")
Namun demikian, dengan tidak jelasnya konten yang dilarang, pembatasan yang ada bisa memperburuk kebebasan berekspresi di Indonesia. Dalam sebuah survei yang dilakukan oleh Komisi Nasional Hak Asasi Manusia Indonesia pada tahun 2020 mengenai status kebebasan berpendapat, berekspresi, dan berkumpul, di Indonesia ditemukan bahwa 29% responden takut untuk mengkritik pemerintah dan 36,2% takut untuk mengekspresikan pendapat mereka di internet (Komisi Nasional Hak Asasi Manusia Indonesia, 2020). Komisi Nasional Hak Asasi Manusia Indonesia menganggap hal tersebut sebagai tanda yang sangat jelas bagi Indonesia untuk lebih melindungi demokrasi dan kebebasan berekspresinya (Komisi Nasional Hak Asasi Manusia Indonesia, 2020).
Peraturan Menteri Kominfo Nomor 5 Tahun 2020 secara tidak langsung mengakui prinsip bahwa UGC secara etis dan legal dimiliki oleh pembuat konten yang bersangkutan. Kepemilikan juga tetap ada pada pembuat konten individu, terlepas apakah konten yang dibuat menawarkan produk atau jasa, atau mengandung berita, informasi umum, analisis, atau pendapat. Oleh karena itu, penting bagi Indonesia untuk mengikuti standar internasional. Penyelenggara Sistem Elektronik di Amerika Serikat misalnya, dapat dengan bebas memperluas usaha dan berinovasi tanpa adanya ketakutan akan tuntutan hukum. Dengan adanya Section 230 Communications Decency Act of 1966, mereka mendapatkan imunitas dari tanggung jawab hukum yang muncul akibat konten pengguna yang tidak sesuai aturan. Melalui peraturan tersebut, pemerintah AS berniat menjaga solusi inovatif bagi penyelenggara online dan mengizinkan mereka untuk menciptakan standar mereka sendiri untuk UGC (Chander, 2016; Kosseff, 2017).
Akan tetapi, Peraturan Menteri Kominfo Nomor 5 Tahun 2020 hanya membebaskan penyelenggara online di Indonesia dari tanggung jawabnya terhadap UGC jika mereka memastikan platform mereka tidak mengandung dan memfasilitasi konten yang dilarang. Selain itu, peraturan tersebut hanya menetapkan bahwa PSE lingkup privat berbasis UGC “dapat dibebaskan” dari tanggung jawab kalau mereka memenuhi semua persyaratan moderasi konten (Pasal 11) yang akan dijelaskan lebih lanjut di bawah ini. Ambiguitas penggunaan kata dalam pasal 11 menunjukkan bahwa pembebasan hanyalah sebuah opsi dan bahwa PSE lingkup privat masih bisa diminta pertanggungjawabannya, bahkan jika mereka telah memenuhi persyaratan yang dimaksud. Hal ini sekali lagi menimbulkan ketidakpastian bagi PSE lingkup privat dan mengabaikan standar safe harbor internasional yang menyatakan bahwa pihak penyelenggara tidak bisa diminta untuk bertanggung jawab.
PSE lingkup privat harus membuat mekanisme pelaporan pengaduan dan sebuah sistem pengaturan informasi/ dokumen elektronik untuk menghapus konten yang dilarang. Peraturan Menteri Kominfo Nomor 5 Tahun 2020 memberikan PSE lingkup privat waktu 24 jam untuk menghapus konten yang dilarang setelah konten tersebut ditemukan dan pihak perusahaan penyelenggara diberitahukan. Tenggat waktu tersebut bahkan dipersingkat menjadi empat jam apabila konten yang diadukan bersifat mendesak karena mengandung muatan terkait terorisme, pornografi anak, dan konten yang menyebabkan keresahan masyarakat. Mengingat banyaknya UGC yang dibuat di setiap waktu, tenggat waktu tersebut relatif singkat untuk mengecek konten yang dilaporkan, melakukan verifikasi bahwa konten tersebut masuk dalam kategori konten yang dilarang, memutuskan tindakan perusahaan, dan akhirnya memblokir atau menghapus konten. Contoh lain yang bisa kita pelajari adalah Germany’s Network Enforcement Act (NetzDG) yang juga mewajibkan penghapusan konten yang mengandung ancaman kekerasan dan umpatan dalam waktu 24 jam. Namun aturan itu berlaku hanya untuk platform dengan jumlah pengguna lebih dari dua juta. Selain itu, aturan tersebut juga mengizinkan adanya waktu tujuh hari untuk kasus-kasus yang lebih rumit (APC, 2018).
Di Indonesia, kerangka waktu yang dibuat berlaku untuk semua tipe PSE lingkup privat terlepas dari ukuran badan usahanya. Sementara bagi PSE lingkup privat besar merupakan tantangan untuk bereaksi secara cepat, bagi perusahaan yang lebih kecil aturan ini menjadi beban besar yang tidak proporsional mengingat mereka tidak memiliki sumber daya untuk menyediakan infrastruktur perusahaan yang dibutuhkan. Jika PSE lingkup privat berskala besar kebanyakan adalah perusahaan asing, sementara perusahaan yang lebih kecil adalah perusahaan Indonesia, maka kerangka waktu yang singkat tersebut juga bisa mendiskriminasi perusahaanperusahaan domestik.
Kegagalan dalam memenuhi kewajiban moderasi dan persyaratan penghapusan konten akan berakibat pada pemberlakuan sanksi.Sanksi yang dimaksud sudah diatur dalam Peraturan Pemerintah Nomor 71 Tahun 2019 dan juga sudah diperkuat dalam Peraturan Menteri Kominfo Nomor 5 Tahun 2020 yang membuat PSE bertanggung jawab terhadap adanya konten yang dilarang. Denda untuk pelanggaran bisa senilai Rp100-Rp500 juta (Kominfo, 2019). Kominfo bisa memblokir akses internet Penyelenggara Sistem Elektronik jika mereka tidak menghapus konten atau tidak bisa membayar denda. Kominfo akan menyampaikan pemberitahuan kepada penyelenggara online untuk menghapus konten sebelum pemblokiran akses. Ketika akses diblokir, penyelenggara online bisa membuka akses kembali dengan memenuhi tanggung jawab yang sebelumnya gagal untuk dipenuhi. Sekali lagi, kondisi ini menempatkan perusahaan penyelenggara yang lebih kecil di posisi yang dirugikan, karena mereka memiliki sumber daya yang terbatas.
Pengaturan Bersama (Koregulasi) sebagai Langkah Baik ke Depan
Pengaturan bersama harus dipertimbangkan dalam proses regulasi, karena cara ini memberikan opsi untuk meningkatkan efektivitas pencegahan konten yang dilarang. Pengaturan bersama adalah pendekatan regulasi yang berfokus pada dialog antara pemerintah dan swasta serta pembagian tanggung jawab antara pemerintah dan non-pemerintah secara luas. Cara ini berfokus pada kolaborasi untuk pembuatan, adopsi, pelaksanaan, dan evolusi kebijakan serta regulasi (Aprilianti & Dina, 2021). Kolaborasi ini memfasilitasi pelaksanaan regulasi dan juga mempertimbangkan kepentingan sektor swasta, atau dengan kata lain memberikan ruang dan dorongan untuk inovasi dan pertumbuhan.
Dalam sebuah ekosistem pengaturan bersama, pemerintah membuat aturan main umum, misalnya mengatur persyaratan penghapusan konten terberat untuk serangan teroris terencana atau pelecehan anak. Di saat yang sama, PSE lingkup privat akan memformulasikan kode etik atau aturan main yang menentukan pengaturan rinci tentang tipe konten atau perilaku apa yang diterima di platform mereka. Pembagian tanggung jawab ini membuat peraturan lebih fleksibel dalam merespons lanskap digital yang terus berubah seiring dengan munculnya model bisnis dan jasa yang baru. Pengaturan bersama bisa berdampak pada kenaikan tingkat kepatuhan yang tinggi mengingat sektor swasta bekerja bersama dengan pemerintah dengan tujuan memperbaiki kinerja industri secara luas (APC, 2019).
Mirip dengan Indonesia, Britania Raya saat ini memastikan perlindungan penyelenggara sistem elektronik dari tanggung jawab hukum karena memuat konten yang berbahaya. Perlindungan tersebut diberikan hingga penyelenggara yang bersangkutan menerima pemberitahuan atau laporan mengenai konten yang berbahaya tersebut. Online Harms White Paper pemerintah Britania Raya sekarang tengah mempertimbangkan untuk menggunakan pendekatan pengaturan bersama untuk meregulasi konten berbahaya. Pemerintah Britania Raya berencana untuk bekerja dengan pelaku industri dan organisasi masyarakat untuk melawan konten berbahaya, seperti misalnya mengembangkan teknologi untuk lingkungan online yang lebih aman. Peraturan yang dibuat bermaksud untuk menggunakan pendekatan berbasis risiko untuk memperkenalkan upaya yang proporsional (Pemerintah Britania Raya, 2019). Alih-alih meminta penghapusan konten tertentu, peraturan yang ada nantinya akan berfokus pada memprioritaskan tindakan untuk melawan konten berbahaya ketika dianggap sebagai ancaman luar biasa atau akan berdampak besar. Barang bukti yang dikumpulkan dari berbagai sumber akan digunakan untuk memformulasikan rekomendasi yang bisa dipraktikkan dengan mempertimbangkan besarnya kerugian, risiko kerugian, dan teknologi yang tersedia bagi perusahaan untuk melawan konten terkait (Pemerintah Britania Raya, 2019).
Langkah pertama pengaturan bersama adalah keterlibatan pemangku kepentingan secara luas dalam formulasi kebijakan melalui dialog Pemerintah-Swasta atau Public-Private Dialogue (PPD). PPD meningkatkan transparansi, kualitas, dan efektivitas peraturan, sementara para pelaku terkait secara langsung terlibat dalam formulasi kebijakan (OECD, 2007). PPD mengizinkan Kominfo untuk mengeksplorasi praktik yang baik dan untuk memastikan peraturan yang ada bisa membantu moderasi konten yang berkelanjutan dan efektif, serta juga mengizinkan kebebasan berekspresi, dialog publik terbuka dan pertumbuhan e-commerce. Kominfo telah melibatkan PSE dalam proses pembuatan kebijakan dan menyimpulkan bahwa cara tersebut adalah cara yang baik, misalnya ketika menelaah RUU Perlindungan Data Pribadi. Selain itu, Kominfo juga telah membuka konsultasi publik terkait peraturan UGC (Park, 2020).
Pengaturan bersama diperlukan untuk mengevaluasi Peraturan Menteri Kominfo Nomor 5 Tahun 2020. Mengingat peraturan ini telah diberlakukan, upaya pengaturan bersama ke depannya akan dapat digunakan untuk penilaian kekuatan dan kelemahan peraturan yang sudah ada. Dalam sebuah proses pengaturan bersama, Peraturan Menteri Kominfo Nomor 5 Tahun 2020 bisa dievaluasi menurut bukti dari industri terkait. Hal tersebut bisa mendorong adanya penyesuaian sesuai dengan kondisi sebenarnya yang dihadapi oleh industri dan juga sesuai dengan kapasitas mereka yang sesungguhnya untuk melawan konten yang dilarang dan merugikan.
Referensi
Aprilianti, Ira., & Dina, Siti Alifah. (2021). Co-regulating the Indonesian Digital Economy. Jakarta: Center for Indonesian Policy Studies.
Association for Progressive Communication (APC). (2019). Online Content: To Regulate or Not to Regulate – Is that the Question?. https://www.apc.org/en/pubs/online-content-regulate-or-not-regulate-question.
Association for Progressive Communication (APC). (2018). Content Regulation in the Digital Age: Submission to the United Nations Special Rapporteur on the Right to Freedom of Opinion and Expression. Retrieved from https://www.apc.org/en/pubs/content-regulation-digital-age-submission-united-nations-special-rapporteur-right-freedom.
Chander, A. (2016). Internet intermediaries as platforms for expression and innovation. Mapping the Digital Frontiers of Trade and Intellectual Property, 5.
Carley, Katleen M., Malik, Momin M., Kowalchuck, M., Pfeffer, J., & Landwher, P. (2015). Twitter Usage in Indonesia. Retrieved from https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2720332.
De Streel, Alexandre et al. (2020). Online Platforms’ Moderation of Illegal Content Online. Retrieved from https://www.europarl.
europa.eu/RegData/etudes/STUD/2020/652718/IPOL_STU(2020)652718_EN.pdf.
Hootsuite & We Are Social. (2020). Digital 2020: Indonesia. Retrieved from https://datareportal.com/reports/digital-2020- indonesia.
Indonesian National Human Rights Commission. (2020). Catatan Akhir Tahun Hak Asasi Manusia. Retrieved from 20201230-keterangan-pers-nomor-062-humas-$WQAV6OU.pdf (komnasham.go.id).
International Covenant on Civil and Political Rights (ICCPR) 1966. (1976, 23 March). Retrieved from https://treaties.un.org/doc/ publication/unts/volume%20999/volume-999-i-14668-english.pdf.
Islami, Nur. (2017). Kominfo Sebut Facebook Ikut Tanggung Jawab Soal Saracen. Retrieved from https://www.kominfo.go.id/ content/detail/10407/kominfo-sebut-facebook-ikut-tanggung-jawab-soal-saracen/0/sorotan_media.
Kosseff, Jeff. (2017). Twenty Years of Intermediary Immunity: the U.S. Experience. Scripted, 14 (1), 5-36.
Latzer, M., Just, N., & Saurwein, F. (2013). Self-and co-regulation. Routledge handbook of media law, 373. https://www. researchgate.net/publication/260793886_Self-_and_co-regulation_Evidence_legitimacy_and_governance_choice
McKinsey. (2018). The Digital Archipelago: How Online Commerce is Driving Indonesia’s Economic Development. https://www. mckinsey.com/featured-insights/asia-pacific/the-digital-archipelago-how-online-commerce-is-driving-indonesias-economic-development
Ministry of Communication and Information. (2018). Medsos Biarkan Hoax Bertebaran, Pemerintah Ancam Denda. https://www. kominfo.go.id/content/detail/13743/medsos-biarkan-hoax-bertebaran-pemerintah-ancam-denda/0/sorotan_media
Ministry of Communication and Information. (2019). Fasilitasi Konten Ilegal, Dirjen Aptika: Platform Didenda 500 Juta Per Konten. https://www.kominfo.go.id/content/detail/22561/fasilitasi-konten-ilegal-dirjen-aptika-platform-didenda-500-juta-per-konten/0/berita_satker
Ministry of Communication and Information. (2020). Kominfo terima lebih dari 430 ribu aduan konten negatif sepanjang 2019. Retrieved from https://kominfo.go.id/content/detail/23705/siaran-pers-no-04hmkominfo012020-tentang-kominfo-terima-lebih-dari-430-ribu-aduan-konten-negatif-sepanjang-2019/0/siaran_pers.
Molina, Kristo. (2017). Indonesia Implements a Safe Harbour Policy for E-Commerce (Marketplace) Platforms. Retrieved from https://www.whitecase.com/publications/alert/indonesia-implements-safe-harbor-policy-e-commerce-marketplace-platforms.
OECD. (2007). Public Private Dialogue in Developing Countries: Opportunities and Risk. https://www.oecd.org/dev/public-private dialogueindevelopingcountriesopportunitiesandrisks.htm
Park, Kyung-sin. (2020). From Liability Trap to the World’s Safest Harbour: Lessons from China, India, Japan, South Korea, Indonesia, and Malaysia. Oxford Handbook of Online Intermediaries Liability.
Tempo. (2020). Bank Indonesia Reports 140 Million E-commerce Transactions in August. Retrieved from https://en.tempo.co/ read/1398199/bank-indonesia-reports-140mn-e-commerce-transactions-in-august
UK Government. (2019). Online Harms White Paper. https://www.gov.uk/government/consultations/online-harms-white-paper