PANDUAN
SANDBOX REGULASI KECERDASAN ARTIFISIAL
POKJA SANDBOX REGULASI KECERDASAN ARTIFISIAL
PUSAT INOVASI KECERDASAN ARTIFISIAL
2021
PANDUAN SANDBOX REGULASI KECERDASAN ARTIFISIAL
Disusun oleh
Pokja Sandbox Regulasi Kecerdasan Artifisial - Pusat Inovasi Kecerdasan Artifisial
Pengarah:
Prof. Suhono Harso Supangkat, Prof. Ismunandar
Penulis:
Agus Widodo, Robertus Theodore, Meiditomo, Antony Simon, Hendra Sumiarsa,
Alexander Ludi, Yenni Bachtiar, Leontinus Edison, Helni Mutiarsih Jumhur,
Tauhid Nur Azhar, A/Prof. Arwin Datumaya Wahyudi Sumari, Prof. Eko Budihardjo.
Kontributor:
Suryo Hadiyono, Gusti Albidi, Rizki Adi Anggoro Suharno
Cetakan pertama, November 2021
Hak cipta dilindungi oleh Undang-undang
Dilarang memperbanyak atau mengutip sebagian
atau seluruh isi buku tanpa seizin tertulis dari penerbit.
Panduan Sandbox Regulasi Kecerdasan Artifisial i
DAFTAR ISI
DAFTAR ISI............................................................................................................................................ ii
DAFTAR GAMBAR................................................................................................................................. iii
DAFTAR TABEL..................................................................................................................................... iii
KATA PENGANTAR............................................................................................................................... iv
RINGKASAN EKSEKUTIF.......................................................................................................................v
BAB I PENDAHULUAN......................................................................................................................... 1
1.1. Urgensi Sandbox Regulasi Kecerdasan Artifisial (KA)...................................................... 1
1.2. Tujuan Panduan.....................................................................................................................2
1.3. Ruang Lingkup....................................................................................................................... 3
BAB II TINJAUAN SANDBOX REGULASI...........................................................................................4
2.1. Sandbox Regulasi Di Luar Negeri........................................................................................ 4
2.2. Sandbox Regulasi Di Indonesia........................................................................................... 6
BAB III MEKANISME SANDBOX REGULASI KECERDASAN ARTIFISIAL (KA)........................... 10
3.1. Kelembagaan Sandbox Regulasi Kecerdasan Artifisial (KA)......................................... 10
3.2. Persyaratan Keikutsertaan dalam Sandbox..................................................................... 13
3.3. Mekanisme Uji coba dan Evaluasi..................................................................................... 15
BAB IV KASUS SANDBOX REGULASI KECERDASAN ARTIFISIAL (KA)...................................... 17
4.1. Kasus Cargo Drone..............................................................................................................17
4.1.1. Urgensi Sandbox Regulasi di bidang Cargo Drone.............................................. 17
4.1.2. Kelembagaan Sandbox Regulasi.............................................................................18
4.1.3. Persyaratan Keikutsertaan dalam Sandbox.......................................................... 19
4.1.4. Uji coba dan Evaluasi............................................................................................... 19
4.2. Kasus Alat Kesehatan..........................................................................................................21
4.2.1. Urgensi Sandbox Regulasi di bidang Alat Kesehatan.......................................... 21
4.2.2. Kelembagaan Sandbox Regulasi Alat Kesehatan................................................. 25
4.2.3. Persyaratan Keikutsertaan dalam Sandbox.......................................................... 25
4.2.4. Uji coba dan Evaluasi............................................................................................... 26
BAB V PENUTUP.................................................................................................................................28
DAFTAR PUSTAKA...............................................................................................................................29
LAMPIRAN............................................................................................................................................ 31
Panduan Sandbox Regulasi Kecerdasan Artifisial ii
DAFTAR GAMBAR
Gambar 1 . Peta sandbox regulasi (Deloitte, 2018)..................................................................4
Gambar 2 . Model Implementasi Sandbox (Inter-American Development Bank, 2020)...11
Gambar 3 . Pemangku Kepentingan sandbox regulasi Kecerdasan Artifisial (KA).............11
Gambar 4 . Tahapan Regulatory Sandbox (Makarim & Mahardika, 2020)......................... 12
Gambar 5 . Deteksi kondisi bahaya dalam fitur kecerdasan artifisial “detect-and-avoid”
(UK-CAA, 2020)....................................................................................................................18
Gambar 6 . Mekanisme persetujuan pengoperasian PUTA (sumber: DKPPU-Kemenhub,
2021)..................................................................................................................................... 21
Gambar 7 . Faktor pendukung dan penghambat inovasi. .................................................... 22
Gambar 8 . Rancangan regulatory sandbox di bidang kesehatan (Setiaji, 2021)............. 24
DAFTAR TABEL
Tabel 1 . Elemen Sandbox (Jenik dan Duff, 2020)................................................................. 10
Tabel 2 . Peran Tim Sandbox, diadaptasikan dari (Jenik dan Duff, 2020)......................... 12
Tabel 3 . Peta jalan transformasi kesehatan digital................................................................24
Panduan Sandbox Regulasi Kecerdasan Artifisial iii
KATA PENGANTAR
Puji syukur kami ucapkan kehadirat Allah SWT atas segala rahmat-Nya sehingga
Panduan Sandbox Regulasi Kecerdasan Artifisial (KA) ini dapat terselesaikan dengan baik.
Panduan yang menjadi salah satu output dari Pokja Sandbox Regulasi KA - Pusat Inovasi KA
ini dimaksudkan sebagai kerangka penerapan Sandbox Regulasi KA di bidang tertentu. Buku
ini memuat gambaran umum tentang kelembagaan sandbox regulasi KA, persyaratan
keikutsertaan dalam sandbox serta mekanisme uji coba dan evaluasinya. Di samping itu,
panduan ini juga memberikan rancangan sandbox regulasi KA dengan use case cargo drone
dan alat kesehatan.
Kami mengucapkan terima kasih kepada semua pihak yang telah berkontribusi
dalam memberikan sumbangan pemikiran maupun materi penulisan. Semoga panduan ini
dapat mendorong pembentukan sandbox regulasi untuk mempercepat penerapan dan
pengawasan inovasi Kecerdasan Artifisial.
Kami menyadari masih banyak kekurangan dari panduan ini. Oleh karena itu, kami
mengharapkan kritik dan saran yang membangun dari pembaca untuk penyempurnaan
lebih lanjut.
Jakarta, November 2021
Tim Penyusun
Panduan Sandbox Regulasi Kecerdasan Artifisial iv
RINGKASAN EKSEKUTIF
Pemanfaatan teknologi Kecerdasan Artifisial (KA) berpotensi memberikan
peningkatan produktivitas, efisiensi pemanfaatan sumber daya, dan solusi inovatif di
berbagai sektor. Bahkan, berbagai produk layanan berkembang semakin luas dan intensif
pada saat pandemi berlangsung. Namun demikian, inovasi KA yang berkembang pesat
tersebut bisa menjadi sumber ketidakpastian, risiko, perubahan, dan kemungkinan disrupsi.
Regulasi dapat menjadi penghambat inovasi ketika sangat memberatkan atau lambat
beradaptasi, tetapi juga dapat bertindak sebagai pendorong inovasi dengan menyediakan
prasyarat penting bagi inovasi, seperti kerangka umum untuk keuangan dan pendanaan,
hak kekayaan intelektual (HKI), dan aturan dasar untuk persaingan dan perlindungan
konsumen. Seiring dengan kecepatan transformasi dan inovasi, regulasi dituntut untuk tetap
relevan dalam menghadapi kemajuan teknologi.
Suatu mekanisme untuk mendukung inovasi dan memberikan pengawasan regulasi
adalah lingkungan pengujian yang disebut 'sandbox'. Ruang uji ini memungkinkan para
inovator untuk menguji produk, layanan, dan model bisnis di tempat yang aman, untuk
memastikan kepatuhannya terhadap peraturan yang ada sebelum menerapkannya pada
lingkup yang lebih luas.
Panduan ini disusun untuk dapat dijadikan acuan yang dapat disesuaikan dalam
penerapan sandbox regulasi kecerdasan artifisial di bidang tertentu. Dalam panduan,
dibahas perihal kelembagaan sandbox, kriteria persyaratan peserta sandbox, uji coba
implementasi dan evaluasinya. Di samping itu, panduan ini juga memberikan rancangan
sandbox regulasi KA dengan use case cargo drone dan alat kesehatan.
Kelembagaan sandbox regulasi melibatkan regulator dan peserta sandbox, baik dari
industri ataupun startups. Di samping itu, pengguna juga dilibatkan selama uji coba produk
inovasi untuk memberikan umpan balik terhadap proses sandboxing. Langkah dalam proses
sandboxing meliput registrasi peserta, evaluasi keikutsertaan, pelaksanaan uji coba, evaluasi
terhadap hasil uji coba.
Terdapat beberapa kriteria umum yang harus dipenuhi oleh semua peserta sandbox
inovasi Kecerdasan Artifisial (KA), misalnya: inovasi harus terkait KA dan memiliki potensi
pemanfaatan bagi masyarakat. Secara teknis produk inovasi KA yang ikutserta dalam
Sandbox diharapkan memenuhi kriteria kehandalan, kepatuhan terhadap standar, serta
keamanan dan kerahasiaan data. Jangka waktu uji coba dalam Regulatory Sandbox
ditetapkan dalam kurun waktu tertentu, dengan kemungkinan perpanjangan jika diperlukan.
Penetapan status hasil uji coba dalam Regulatory Sandbox berdasarkan hasil penilaian atas
seluruh rangkaian kegiatan selama pelaksanaan uji coba, dengan ketetapan: berhasil, tidak
berhasil, atau status lain.
Panduan Sandbox Regulasi Kecerdasan Artifisial v
Untuk mewujudkan sandbox regulasi Kecerdasan Artifisial (KA), masih diperlukan
kolaborasi muti-stakeholder di bidang KA, misalnya untuk menetapkan pengelola sandbox,
tim ahli dalam forum panel, regulator terkait, serta persyaratan untuk produk dan peserta
sandbox, mekanisme detail pengujian dan syarat kelulusan. Dengan berfungsinya sandbox
regulasi KA diharapkan akan mendorong percepatan pemanfaatan produk-produk inovasi KA
oleh masyarakat luas.
Panduan Sandbox Regulasi Kecerdasan Artifisial vi
BAB I
PENDAHULUAN
1.1. Urgensi Sandbox Regulasi Kecerdasan Artifisial (KA)
Pemanfaatan teknologi Kecerdasan Artifisial (KA) berpotensi memberikan
peningkatan produktivitas bagi bisnis, efisiensi investasi pemanfaatan sumber daya
manusia, dan inovasi di berbagai sektor, seperti keuangan, kesehatan, pendidikan,
pertanian, hankam, transportasi, dan kelautan. Kecerdasan artifisial juga dapat
memberikan solusi dalam mengatasi masalah infrastruktur yang hemat biaya, memberikan
layanan sosial yang efektif, merencanakan sumber daya pendidikan yang berkualitas,
membantu pemerintah menyusun kebijakan yang tepat, membangun pasar digital yang
nyaman, serta membantu pemerintah dalam memberikan layanan terbaik di sektor publik
(Pusat Inovasi Kecerdasan Artifisial, 2020).
Namun demikian, teknologi juga menjadi sumber ketidakpastian, risiko, perubahan,
dan kemungkinan disrupsi. Kompleksitas, ketidakpastian, dan kecepatan proses inovasi
menghasilkan banyak tantangan regulasi. Bahkan, inovasi dapat dipersepsikan sebagai
target yang bergerak dari suatu regulasi sehingga sulit untuk mengacu kepada kerangka
regulasi tradisional (Ranchordas, 2021). Regulasi dapat menjadi penghambat inovasi
ketika sangat memberatkan atau lambat beradaptasi, tetapi juga dapat bertindak sebagai
pendorong inovasi dengan menyediakan prasyarat penting bagi inovasi, seperti kerangka
umum untuk keuangan dan pendanaan, hak kekayaan intelektual (HKI), dan aturan dasar
untuk persaingan dan perlindungan konsumen. Seiring dengan kecepatan transformasi
dan inovasi, regulasi dituntut untuk tetap relevan dalam menghadapi kemajuan teknologi.
Regulator dapat berperan secara lebih aktif dalam memelihara dan mendukung inovasi
dengan mengekplorasi penerapan sandbox regulasi (Inter-American Development Bank,
2020). Pembuat aturan perundangan juga perlu mengikuti dan menyadari aturan apa
yang dibutuhkan untuk teknologi baru agar dapat memanfaatkan peluang inovasi tersebut
dengan menghadapi risiko seminimal mungkin.
Berbagai mekanisme sedang diadopsi oleh regulator untuk mendukung inovasi
sambil memberikan pengawasan regulasi yang tepat, melalui suatu “regulasi antisipatif”,
di mana regulasi dipandang sebagai alat pendukung untuk menjaga inovasi yang
bertanggung jawab, dan bukan sebagai penghalang (Armstrong dkk, 2019). Salah satu
mekanisme tersebut adalah lingkungan pengujian langsung yang disebut 'sandbox'. Ruang
uji ini memungkinkan para inovator untuk menguji produk, layanan, dan model bisnis di
tempat yang aman, untuk memastikan kepatuhan mereka terhadap peraturan yang ada
sebelum menerapkannya di sektor yang lebih luas. Financial Conduct Authority (FCA)
Inggris adalah pihak yang pertama kali menggunakan lingkungan sandbox untuk
Panduan Sandbox Regulasi Kecerdasan Artifisial 1
mengeksplorasi masalah regulasi pada tahun 2016 (FCA, 2015). Sandbox regulasi ini
digambarkan sebagai ‘ruang aman’ tempat bisnis dapat menguji produk, layanan, model
bisnis, dan mekanisme pengiriman inovatif tanpa menimbulkan semua konsekuensi
peraturan normal pada masa uji coba. Lingkungan sandbox juga memungkinkan
eksplorasi proses yang mungkin melanggar aturan saat ini tetapi berpotensi memberikan
manfaat besar jika diterapkan dengan persyaratan yang terstandar. Di beberapa literatur,
lingkungan pengujian ini juga biasa disebut sebagai 'testbeds' atau 'living laboratory'.
Leckenby dkk (2021) mengidentifikasi bahwa manfaat utama sandbox termasuk
pengurangan waktu dan biaya untuk membawa produk ke pasar karena penundaan yang
diakibatkan oleh ketidakpastian peraturan memiliki dampak yang lebih besar kepada
inovator pemula (startup). Selain itu, terdapat peningkatan akses keuangan bagi para
inovator dan peningkatan hasil uji produk yang akan diperkenalkan ke pasar. Manfaat
lainnya adalah adanya peningkatan kolaborasi antara regulator dan inovator untuk
memastikan perlindungan konsumen. Lebih lanjut, studi yang dilakukan oleh Goo dan Heo
(2020) mengindikasikan bahwa pengenalan regulatory sandbox memberikan efek
kebijakan yang mengurangi risiko hukum dan institusional dengan menghilangkan
ketidakpastian melalui adopsi model bisnis yang fleksibel dan inklusif di perusahaan start-
ups. Adopsi regulatory sandbox memberikan insentif positif untuk modal ventura ke
bidang industri baru, misalnya kecerdasan artifisial, blockchain, dan big data, yang
membutuhkan pembinaan intensif. Di samping itu, regulatory sandbox dapat bertindak
sebagai katalis untuk menciptakan ekosistem inovasi terbuka (open innovation) dengan
mempromosikan masuknya investasi ke dalam ekosistem inovasi.
Oleh karena itu, sandbox regulasi kecerdasan artifisial merupakan sebuah
kebutuhan untuk memberikan ruang pengembangan bagi industri terutama rintisan atau
startups, dengan tetap mempertimbangkan jaminan keamanan dalam proses sandboxing.
Rodrigues (2020) mengidentifikasi aspek legal yang perlu menjadi perhatian dalam
penerapan teknologi dan sistem kecerdasan artifisial, antara lain transparansi terhadap
algoritma yang digunakan; kerentanan terhadap serangan siber; kemungkinan bias dan
diskriminasi dalam penggunaannya; kepercayaan terhadap hasil; kepemilihan HKI;
dampak terhadap tenaga kerja; kerahasiaan dan proteksi data; penanggungjawab hasil,
khususnya jika terjadi kecelakaan/kerusakan; serta akuntabilitas sistem kecerdasan
artifisial tersebut.
1.2. Tujuan Panduan
Panduan ini disusun untuk dapat dijadikan acuan dalam menerapkan sandbox
regulasi kecerdasan artifisial. Kriteria persyaratan peserta sandbox, uji coba implementasi
dan evaluasinya, serta kelembagaan sandbox inovasi kecerdasan artifisial perlu
disesuaikan dan diperinci sesuai dengan bidang dari produk inovasi kecerdasan artifisial
yang diajukan.
Panduan Sandbox Regulasi Kecerdasan Artifisial 2
1.3. Ruang Lingkup
Lingkup panduan meliputi inovasi dalam bidang kecerdasan artifisial, dengan use-
case cargo drone sebagai contoh dari smart mobility, dan alat kesehatan sebagai contoh
dari smart health. Meskipun cakupan bidang kecerdasan artifisial relatif luas, panduan ini
memberikan gambaran secara umum tentang kelembagaan sandbox regulasi kecerdasan
artifisial, persyaratan keikutsertaan dalam sandbox serta mekanisme uji coba dan
evaluasinya. Di samping itu, panduan ini juga memberikan rancangan sandbox regulasi
kecerdasan artifisial dengan use-case cargo drone dan alat kesehatan.
Panduan Sandbox Regulasi Kecerdasan Artifisial 3
BAB II
TINJAUAN SANDBOX REGULASI
2.1. Sandbox Regulasi Di Luar Negeri
Saat ini, sandbox regulasi digunakan di lebih dari lima puluh negara (misalnya,
Australia, Abu Dhabi, Kanada, Denmark, Malaysia, Singapura, Prancis), sebagian besar di
sektor keuangan (Attrey et al. 2020). Sandbox tersebut ada yang berdiri sendiri atau
terintegrasi dalam kebijakan inovasi yang lebih luas seperti pusat inovasi, atau suatu
portal, yang bertujuan untuk mendukung pengembangan ekosistem financial technology
(fintech) atau lainnya (Buckley et al. 2020). Deloitte Center for Government Insights
Analysis memberikan gambaran peta sandbox regulasi di berbagai negara baik yang live
(sudah berjalan) atau proposed (dalam tahap pengembangan), sebagimana terlihat pada
Gambar 1.
Gambar 1. Peta sandbox regulasi (Deloitte, 2018)
Di samping itu ZICO (2020) juga mengidentifikasi regulatory sandbox di beberapa
negara ASEAN, antara lain Brunei Darussalam, Indonesia, Singapura, Malaysia, Thailand,
dan Vietnam. Ke enam negara tersebut telah menerapkan sandbox regulasi terkait
finansial, di samping sandbox terkait energi di Singapura, teknologi 5G di Brunei
Panduan Sandbox Regulasi Kecerdasan Artifisial 4
Darussalam, dan asuransi digital di Thailand dan Filipina. Dibandingkan dengan sektor
keuangan, pengembangan sandbox regulasi di bidang kecerdasan artifisial masih relatif
baru, dan sejauh ini, belum banyak contoh sandbox regulasi kecerdasan artifisial di tingkat
negara. Namun demikian, beberapa inisiatif yang ada dapat menggambarkan rancangan
sandbox regulasi kecerdasan artifisial di masa depan.
Sebagaimana disampaikan dalam Ranchordas (2021), di Inggris, Kantor
Komisioner Informasi pada tahun 2019 memulai fase Beta dari sandbox yang bertujuan
untuk meningkatkan perlindungan data dan mendukung inovasi. Inisiatif ini dirancang
untuk mendukung organisasi yang menggunakan data pribadi untuk mengembangkan
produk dan layanan yang inovatif dan memiliki manfaat publik. Enam perusahaan yang
merupakan bagian dari sandbox regulasi pada saat penulisan ini mengembangkan
berbagai jenis aplikasi kecerdasan artifisial (misalnya, layanan advisory yang digunakan
untuk mendukung penilaian klinis kesehatan mental akut; moderasi konten yang pada
anak sesuai usia). Untuk setiap tahapan, regulator menentukan serangkaian area fokus
utama dan memastikan bahwa manfaat substansial secara jelas telah ditunjukkan oleh
organisasi yang berinovasi. Pilot pertama yang berhasil diselesaikan pada September 2020,
menginspirasi Otoritas Perlindungan Data Norwegia dan Prancis untuk mengembangkan
inisiatif serupa.
Pada tahun 2020, Otoritas Perlindungan Data Norwegia (Datatilsynet, 2021)
memperkenalkan sandbox regulasi yang bertujuan untuk mempromosikan inovasi A
kecerdasan artifisial I yang etis, menjaga privasi, dan bertanggung jawab. Sandbox di
Norwegia mengikuti prinsip-prinsip kecerdasan artifisial yang bertanggung jawab seperti
yang diusulkan oleh EU High Level Group on Trustworthy AI. Inisiatif ini menerima dua
puluh lima aplikasi dari beberapa organisasi publik dan swasta dan memilih empat proyek
untuk sandbox regulasi yang dimulai pada bulan Maret 2021. Sementara itu, Regulator
Perlindungan Data Prancis (CNIL) juga telah meluncurkan sandbox regulasi yang
bertujuan untuk mengembangkan aplikasi inovatif. Sandbox regulasi ini tidak akan
mengecualikan peserta dari penerapan General Data Protection Regulation (GDPR) tetapi
akan membantu organisasi menerapkan privacy-by-design sejak awal. Lingkup awal dari
sandbox regulasi ini didedikasikan untuk aplikasi layanan kesehatan.
Di Jerman, beberapa sandbox regulasi telah dikembangkan di bidang automated
driving. Sebuah sandbox regulasi di Hamburg berdurasi tujuh bulan dan menawarkan
testbed untuk robot pengiriman yang autonomous. Di samping itu, pada bulan Januari
2021 Rusia memperkenalkan sandbox regulasi untuk mempromosikan inovasi digital.
Delapan proyek yang dipilih meliputi aplikasi kecerdasan artifisial di bidang transportasi,
kesehatan, dan pariwisata. Undang-undang federal yang menetapkan eksperimen hukum
ini memerlukan penilaian menyeluruh terhadap potensi risiko dari sandbox dan langkah-
langkah yang bertujuan untuk meminimalkannya (CMS, 2020).
Panduan Sandbox Regulasi Kecerdasan Artifisial 5
2.2. Sandbox Regulasi Di Indonesia
2.1.1. Inovasi Keuangan Digital (IKD)
Melalui Peraturan Otoritas Jasa Keuangan Republik Indonesia (OJK RI) Nomor
13/POJK.02/2018, setiap penyelenggara Inovasi Keuangan Digital (IKD) baik perusahaan
startup maupun Lembaga Jasa Keuangan (LJK) akan melalui tigas tahap proses sebelum
mengajukan permohonan perizinan. Pertama, tahap pencatatan kepada OJK untuk
perusahaan startup/non LJK. Permohonan pencatatan secara otomatis termasuk
permohonan pengujian regulatory sandbox, sedangkan untuk LJK, permohonan regulatory
sandbox diajukan kepada pengawas masing-masing bidang (Perbankan, Pasar Modal,
IKNB). Kedua, Proses regulatory sandbox berjangka waktu paling lama satu tahun dan
dapat diperpanjang selama enam bulan bila diperlukan. Ketiga, setelah lolos melalui
proses regulatory sandbox dengan status “direkomendasikan”, dapat dilanjutkan dengan
pendaftaran/perizinan kepada OJK.
Persyaratan peserta (penyelenggara IKD) yang ditetapkan oleh ditetapkan oleh
forum panel antara lain: (1) tercatat sebagi IKD di OJK atau berdasarkan surat
permohonan yang diajukan satuan kerja pengawas terkait di OJK; (2) merupakan model
bisnis yang baru; (3) memiliki usaha dengan cakupan pasar yang luas; (4) terdaftar di
asosiasi penyelenggara; (5) memiliki prinsip perlindungan konsumen, dan/ atau proses
bisnis yang mendukung literasi dan inklusi keuangan; (6) memiliki kompleksitas usaha
paling tinggi; (7) memiliki skala bisnis terbesar; (8) memiliki eksposur risiko tertinggi; dan
(9) menggunakan teknologi tercanggih. Sementara itu, proses evaluasi dan eksperimen
memiliki beberapa proses, antara lain: tahap pendalaman, pengujian skenario, pengujian
dan percobaan, perbaikan dan penilaian.
Pada tahap pendalaman, hal yang dinilai antara lain: model bisnis; inovasi
teknologi; proses bisnis; strategi manajemen/risiko; dan rencana bisnis dan kesiapan
operasional. Kemudian, pada tahap pengujian skenario, hal yang diuji meliputi: aktivitas
bisnis seperti akuisisi konsumen, eksekusi transaksi, pelaporan dan lainnya sesuai dengan
model bisnis yang ada; pengujian akurasi dan error correction mengunakan data dummy;
skenario pengujian manajemen risiko; perlindungan data dan konsumen; mitigasi risiko
siber dan pengujian terhadap aspek kepatuhan lainnya, misalnya program anti program
anti pencucian uang dan pencegahan pendahaan terorisme. Sementara itu, hal yang diuji
pada tahap pengujian dan percobaan, antara lain: legal dan tata kelola; model dan proses
bisnis; teknologi informasi; manajemen risiko; perlindungan konsumen; rencana bisnis;
anti pencucuan uang dan pencegahan pendanaan terorisme; dan aspek lainnya yang
diperlukan seperti hal-hal teknis dalam pengembangan inovasi. Jika ada, perbaikan
dilakukan dalam jangka waktu maksimal satu bulan sesuai dengan saran dan masukan
dari reviewer.
Penyelenggara yang berstatus direkomendasikan akan diberikan rekomendasi
pendaftaran sesuai dengan aktivitas usaha dari penyelenggara. Penyelenggara berhak
mengajukan permohonan pendaftaran kepada OJK yang harus dilakukan paling lambat
Panduan Sandbox Regulasi Kecerdasan Artifisial 6
enam bulan sejak penetapan status, dan jika penyelenggara tidak mengajukan
permohonan pendaftaran selama batas waktu tersebut maka status rekomendasi dicabut
dan dinyatakan tidak berlaku. Sementara itu, bagi penyelenggara yang berstatus
perbaikan, OJK dapat memberikan perpanjangan waktu paling lama enam bulan sejak
tanggal penetapan status. Sedangkan penyelenggara yang berstatus tidak
direkomendasikan akan dikeluarkan dari pencatatan sebagai penyelenggara.
2.2.2. Teknologi Finansial
Bank Indonesia (BI) menerbitkan Peraturan Anggota Dewan Gubernur Nomor
19/14/PADG/2017 tentang Ruang Uji Coba Terbatas (Regulatory Sandbox) Teknologi
Finansial pada 2 April 2018, terutama untuk produk yang memberikan layanan sistem
pembayaran (Bank Indonesia, 2017). Terobosan yang dilakukan BI sebagai salah satu
hasil proses pembelajaran, di mana BI memahami bahwa regulasi yang ada di Indonesia
belum cukup untuk mengimbangi kecepatan perkembangan Tekfin 3.5. Oleh karena itu,
BI melakukan terobosan untuk menguji produk, model bisnis, dan layanan yang
disediakan Tekfin 3.5. Dengan adanya terobosan tersebut, BI mendorong inovasi Tekfin
3.5, tetapi tanpa mengesampingkan perlindungan konsumen.
Sesuai dengan Peraturan Bank Indonesia Nomor 19/12/PBI/2017 Tentang
Penyelenggaraan Teknologi Finansial, Penyelenggaraan Teknologi Finansial dikategorikan
ke dalam: (a) sistem pembayaran; (b) pendukung pasar; (c) manajemen investasi dan
manajemen risiko; (d) pinjaman, pembiayaan, dan penyediaan modal; dan (e) jasa
finansial lainnya. Kriteria yang dipersyaratkan sebagai Teknologi Finansial antara lain:
bersifat inovatif; dapat berdampak pada produk, layanan, teknologi, dan/atau model
bisnis finansial yang telah eksis; dapat memberikan manfaat bagi masyarakat; dapat
digunakan secara luas; dan kriteria lain yang ditetapkan oleh BI. Regulatory sandbox
merupakan salah satu unsur dalam ruang lingkup pengaturan penyelenggaraan Teknologi
Finansial yang mencakup: pendaftaran; regulatory sandbox; perizinan dan persetujuan;
dan pemantauan dan pengawasan.
Penyelenggara Teknologi Finansial yang telah terdaftar di BI wajib: (a)
menerapkan prinsip perlindungan konsumen sesuai dengan produk, layanan, teknologi,
dan/atau model bisnis yang dijalankan; (b) menjaga kerahasiaan data dan/atau informasi
konsumen termasuk data dan/atau informasi transaksi; (c) menerapkan prinsip
manajemen risiko dan kehati-hatian; (d) menggunakan rupiah dalam setiap transaksi yang
dilakukan di wilayah Negara Kesatuan Republik Indonesia sesuai dengan ketentuan
peraturan perundang-undangan yang mengatur mengenai mata uang; (e) menerapkan
prinsip anti pencucian uang dan pencegahan pendanaan terorisme sesuai dengan
ketentuan peraturan perundang-undangan yang mengatur mengenai anti pencucian uang
dan pencegahan pendanaan terorisme; dan (f) memenuhi ketentuan peraturan
perundangundangan lainnya.
Panduan Sandbox Regulasi Kecerdasan Artifisial 7
Setelah jangka waktu pelaksanaan uji coba sandboxing, BI menetapkan status
hasil uji coba Penyelenggara Teknologi Finansial berupa: berhasil; tidak berhasil; atau
status lain yang ditetapkan BI. Jika hal uji coba dinyatakan berhasil dan produk, layanan,
teknologi, dan/atau model bisnisnya termasuk Teknologi Finansial kategori sistem
pembayaran maka Penyelenggara Teknologi Finansial masih dilarang memasarkan produk,
layanan, teknologi, dan/atau model bisnis yang diujicobakan sebelum terlebih dahulu
mengajukan permohonan izin dan/atau persetujuan sesuai dengan ketentuan Bank
Indonesia yang mengatur mengenai penyelenggaraan pemrosesan transaksi pembayaran.
Sementara itu, jika hasil uji coba dinyatakan tidak berhasil dan produk, layanan,
teknologi, dan/atau model bisnisnya termasuk Teknologi Finansial kategori sistem
pembayaran maka Penyelenggara Teknologi Finansial dilarang memasarkan produk
dan/atau layanan serta menggunakan teknologi dan/atau model bisnis yang diujicobakan.
Sedangkan jika produk, layanan, teknologi, dan/atau model bisnisnya termasuk Teknologi
Finansial selain kategori sistem pembayaran, Bank Indonesia dapat menyampaikan status
hasil uji coba Penyelenggara Teknologi Finansial kepada otoritas yang berwenang.
2.2.3. e-Malaria
Tim e-Malaria Universitas Gadjah Mada bermitra dengan Kementerian Kesehatan,
Asosiasi Healthtech Indonesia, Dinas Kesehatan Provinsi DIY dan UNICEF serta dibiayai
oleh RISPRO TATA KELOLA LPDP mengembangkan tata kelola dengan metode regulatory
sandbox agar inovasi teknologi kesehatan disruptif terkait malaria yang sudah ada seperti
e-PME maupun yang akan muncul di kemudian hari seperti e-surveilans, e-konsultasi dan
e-learning malaria, dapat dimanfaatkan dengan baik oleh seluruh masyarakat Indonesia.
Regulatory Sandbox e-Malaria ini akan dilaksanakan selama lima bulan yang
ddirencanakan pada pertengahan tahun 2021 (UGM, 2021). Kriteria yang harus dipenuhi
oleh peserta regulatory sandbox e-Malaria ditetapkan sebagai berikut: bersifat inovatif dan
berorientasi pada percepatan eliminasi malaria; menggunakan teknologi informasi dan
komunikasi sebagai sarana utama; pemberian layanan kesehatan; mendukung inklusi dan
kesetaraan akses; bermanfaat dan dapat dipergunakan secara luas, terutama pada daerah
endemis malaria; dapat diintegrasikan pada layanan kesehatan lain yang telah ada;
menggunakan pendekatan kolaboratif; dan memperhatikan aspek perlindungan pasien
dan perlindungan data pribadi.
Sementara itu, mekanisme kerja regulatory sandbox e-Malaria terdiri atas: (1)
Penetapan Panitia Regulatory Sandbox e-Malaria sebagai panitia khusus yang berwenang
dan bertanggung jawab terhadap seluruh pelaksanaan regulatory sandbox; (2) Penetapan
Forum Panel yang terdiri dari berbagai ahli di bidangnya yang ditunjuk dan diberi
kewenangan oleh Panitia Regulatory Sandbox eMalaria; (3) Penetapan peserta ujicoba
sebagai pengembang prototipe yang ditetapkan berdasarkan forum panel; dan (4)
Implementasi, evaluasi dan penetapan hasil uji coba regulatory sandbox e-Malaria.
Peserta uji coba Regulatory Sandbox e-Malaria harus memenuhi persyaratan paling sedikit:
Panduan Sandbox Regulasi Kecerdasan Artifisial 8
(1) individu, kelompok individu, perusahaan rintisan yang memiliki inovasi terkait dengan
program malaria; (2) mengajukan sebagai peserta uji coba regulatory sandbox kepada
kepada Panitia Regulatory Sandbox e-Malaria; (3) memiliki inovasi digital, baik di skala
kecil maupun usaha yang sudah terimplementasi secara luas; dan (4) memenuhi kriteria
lain yang ditetapkan oleh Panitia Regulatory Sandbox e-Malaria yang tidak terbatas pada
pemenuhan prinsip perlindungan data pasien, dan/atau proses bisnis yang mendukung
program eliminasi malaria.
Hasil pelaksanaan Regulatory Sandbox e-Malaria terhadap peserta dinyatakan
dengan status: direkomendasikan; perbaikan; atau tidak direkomendasikan. Panitia
Regulatory Sandbox e-Malaria menyampaikan penetapan hasil dari Regulatory Sandbox e-
Malaria kepada Penyelenggara melalui surat. Surat penetapan hasil Regulatory Sandbox e-
Malaria ditandatangani oleh pimpinan Panitia Regulatory Sandbox e-Malaria.
Panduan Sandbox Regulasi Kecerdasan Artifisial 9
BAB III
MEKANISME SANDBOX REGULASI KECERDASAN
ARTIFISIAL (KA)
3.1. Kelembagaan Sandbox Regulasi Kecerdasan Artifisial (KA)
Rancangan sandbox dimulai dengan penilaian kelayakan menyeluruh yang terkait
dengan tujuan keseluruhan program sandbox. Penilaian kelayakan tersebut membantu
mengidentifikasi sumber daya yang dibutuhkan; menyelaraskan pemangku kepentingan
internal dan eksternal; menyoroti regulasi terkait; dan mengungkap potensi kendala (Jenik
& Duff, 2020). Penilaian kelayakan harus mengkonfirmasi komitmen institusi terhadap
sandbox dengan mengidentifikasi lembaga kunci dan struktur tata kelola sementara, serta
komitmen yang jelas dari regulator tingkat tertinggi.
Sandbox regulasi biasanya mencakup lima elemen yang dapat disesuaikan dengan
tujuan sandbox dan lingkungan uji coba, antara lain: kelayakanpeserta (feasibility), tata
kelola, waktu, batasan pengujian dan kelulusan (exit), sebagaimana dideskripsikan pada
Tabel 1. Kelembagaan untuk tata kelola sandbox dapat berupa suatu unit sandbox
tersendiri, atau berupa hub-and-spoke dengan titik kontak terpusat yang
mengoordinasikan beberapa bidang sandbox dan regulator terkait. Contoh tata kelola
dalam (Jenik dan Duff, 2020) ini bersesuaian degan model implementasi dalam (Inter-
American Development Bank, 2020) yang tertera pada Gambar 2, di mana terdapat satu
satu sektor sandbox dengan peran aktif regulator dan terdiri dari beberapa sektor dengan
regulator atau lembaga dengan otoritas yang lebih tinggi bertindak sebagai koordinator.
Tabel 1. Elemen Sandbox (Jenik dan Duff, 2020).
Elemen Deskripsi
Eligibility Menentukan siapa yang dapat berpartisipasi dalam sandbox. Kelayakan harus
disampaikan dengan jelas untuk memastikan kesetaraan playing field bagi
Tata Kelola semua peserta.
Mendefinisikan struktur operasi internal sandbox, peran dan tanggung jawab,
serta proses operasional utama
Waktu Durasi penerimaan/admisi;
Durasi uji coba
Batasan Uji Batasan cakupan, skala, dan/atau pelaksanaan uji sandbox untuk
meminimalkan potensi bahaya
Exit Hasil uji coba dari tiap peserta;
Panduan Sandbox Regulasi Kecerdasan Artifisial 10
Review terhadap proses uji coba untuk dijadikan masukan bagi
penyusunan/perbaikan regulasi
Gambar 2. Model Implementasi Sandbox (Inter-American Development Bank, 2020).
Secara umum, sandbox regulasi melibatkan regulator dan peserta sandbox, baik
dari industri ataupun startups (Gambar 3). Di samping itu, pengguna juga dilibatkan
dalam uji coba produk inovasi dalam rentang waktu tertentu. Regulator biasanya
bertindak sebagai Pengelola Sandbox, seperti halnya di OJK atau BI untuk kasus teknologi
finansial. Namun demikian, tidak menutup kemungkinan bahwa Pengelola Sandbox
kecerdasan artifisial berasal dari institusi yang melingkupi atau terkait dengan bidang-
bidang inovasi kecerdasan artifisial.
Gambar 3. Pemangku Kepentingan sandbox regulasi Kecerdasan Artifisial (KA).
Penetapan Pengelola Sandbox dilakukan melalui rapat koordinasi yang melibatkan
pemangku kepentingan (stakeholder) kecerdasan artifisial dalam bidang yang relevan.
Pengelola bertanggung jawab terhadap proses pelaksanaan uji coba sandbox dan
penyiapan sistem elektronik untuk mendukung pelaksanaan regulatory sandbox. Pengelola
memiliki kewenangan dalam menyosialisasikan, menerima pendaftaran peserta, menilai
kesesuaian produk inovasi dari peserta serta menetapkan hasil uji coba regulatory
sandbox. Forum Panel ditetapkan oleh Panitia/Pengelola dan bertanggung jawab dalam
melakukan penilaian terhadap usulan inovasi dari para peserta sandbox yang mencakup
aspek inovasi, proses bisnis, model bisnis serta potensinya dalam mendukung penerapan
kecerdasan artifisial. Forum Panel bertanggung jawab atas penilaiannya dengan
melaporkan kepada Pengelola.
Meskipun terdapat variasi proses Regulatory Sandbox dari praktik di berbagai
negara, secara umum tahapan proses sandbox dapat dikelompokkan menjadi beberapa
Panduan Sandbox Regulasi Kecerdasan Artifisial 11
tahap (Gambar 4), antara lain: pre-aplikasi, aplikasi/registrasi, review/evaluasi awal,
pengujian, evaluasi final, serta exit (penilaian dan review) (Jenik dan Duff, 2020; Makarim
& Mahardika, 2020).
Gambar 4. Tahapan Regulatory Sandbox (Makarim & Mahardika, 2020).
Peran dari tim sandbox selama masa proses sandboxing yang terdapat dalam
(Jenik dan Duff, 2020), diuraikan pada Tabel 2. Tim komunikasi mempromosikan dan
menyampaikan infromasi program ke publik di tahap awal. Komite Sandbox berperan dari
awal hingga akhir tahapan, antara lain: berkomunikasi dengan regulator, menyusun
kriteria pemilihan peserta, berkomunikasi dengan ahli terkait, menetapkan tim supervisor
dan mereview hasil ujicoba serta mempersiapkan laporan ke publik. Tim teknis bertugas
mengembangkan dan memandu penggunaan portal. Tim administratif bertugas mereview
aplikasi dari peserta dan menyampaikan peserta terpilih dari hasil wawancara (interview)
yang dilakukan oleh Tim Seleksi, sedangkan Tim Supervisi memandu proses selama
ujicoba berlangsung dan mealporkan hasil ujicoba kepada Komite Sandbox.
Tabel 2. Peran Tim Sandbox, diadaptasikan dari (Jenik dan Duff, 2020).
No Tim Pre-Aplikasi Aplikasi Fase Testing Exit & Review
Review
1 Communication Mempromosikan Menyampaikan - - -
Lead Program periode
sandbox
2 Sandbox Komunikasi Komunikasi Menetapkan - Mereview hasil
Committee ujicoba;
dengan dengan ahli supervisory
mempersiapkan
regulator, terkait team laporan ke
publik
menyusun
kriteria eligibility
3 Technical Lead Mengembangkan Memandu - - -
portal penggunaan
portal
4 Administrative - - Mereview - -
Review Team aplikasi;
menyampaikan
peserta terpilih
5 Selection Team - - Melakukan - -
interview
6 Supervisory - - - Memandu -
Team
proses uji
coba;
melaporkan
hasil ke
Sandbox
Committee
Panduan Sandbox Regulasi Kecerdasan Artifisial 12
3.2. Persyaratan Keikutsertaan dalam Sandbox
Terdapat beberapa kriteria umum yang harus dipenuhi oleh semua peserta
sandbox (Datatilsysnet, 2021), antara lain bahwa inovasi kecerdasan artifisial yang
diusulkan:
1. memanfaatkan kecerdasan artifisial atau melibatkan kecerdasan artifisial. Proyek
yang mengembangkan kecerdasan artifisial baru maupun yang menggunakan
solusi yang ada berdasarkan kecerdasan artifisial dapat berpartisipasi dalam
sandbox. Pengembangan framework atau kebijakan untuk penggunaan kecerdasan
artifisial juga dapat menjadi tema sandbox.
2. bermanfaat bagi individu atau masyarakat secara umum. Solusi yang ditawarkan
berupa produk atau layanan yang memberikan manfaat kesehatan atau
mengefisienkan penggunaan sumber daya publik, atau produk dengan potensi
manfaat publik. Dalam konteks ini, inovasi mencakup inovasi teknologi, inovasi
jenis layanan atau produk baru, termasuk solusi inovatif untuk perlindungan privasi.
3. mendapatkan manfaat dari partisipasinya dalam sandbox. Oleh karena itu,
partisipan harus memastikan bahwa lingkup proyeknya terkait kecerdasan artifisial,
misalnya tentang data privacy, dan harus mengalokasikan sumber daya yang
cukup untuk berpartisipasi dalam aktivitas sandbox.
4. diusulkan oleh entitas yang terdaftar dalam wilayah yurisdiksi Indonesia dan
tunduk kepada aturan hukum di Indonesia.
Pengelola Sandbox menetapkan Penyelenggara Teknologi kecerdasan artifisial
(dari industri atau startups) beserta produk, layanan, teknologi, dan/atau model bisnisnya
untuk diuji coba dalam regulatory sandbox. Merujuk kepada aturan sandbox terdahulu
(misal, Peraturan Anggota Dewan Gubernur Nomor 19/14/PADG/2017 tentang Ruang Uji
Coba Terbatas Teknologi Finansial), penetapan tersebut diilakukan dengan pertimbangan
bahwa Penyelenggara Teknologi kecerdasan artifisial telah terdaftar di panitia sandbox. Di
samping itu, produk/project yang diselenggarakan mengandung unsur yang dapat
dikategorikan ke dalam sistem kecerdasan artifisial, mengandung unsur inovasi,
bermanfaat atau dapat memberi manfaat bagi konsumen dan/atau perekonomian, bersifat
noneksklusif, dapat digunakan secara masal, telah dilengkapi dengan identifikasi dan
mitigasi risiko, dan hal lain yang dianggap penting oleh Panitia Sandbox.
Di samping itu, secara teknis, produk inovasi kecerdasan artifisial yang ikutserta
dalam sandbox diharapkan memenuhi kriteria: (1) Kehandalan, (2) Compliance terhadap
standar, (3) Keamanan dan kerahasiaan data. Terkait kehandalan, sistem kecerdasan
artifisial harus dirancang untuk dapat beroperasi dalam parameter yang jelas dan
menjalani pengujian yang ketat untuk memastikan bahwa sistem tersebut merespon
dengan aman dalam situasi yang tidak terduga, dan tidak berevolusi dengan cara yang
tidak sesuai dengan ekspektasi. Metrik untuk mengukur pencapaian kehandalan perlu
diidentifikasi oleh pemangku kepentingan terkait. Terdapat pedoman yang dapat diacu
Panduan Sandbox Regulasi Kecerdasan Artifisial 13
untuk uji ketahanan sistem KA, misalnya ISO/IEC TR 24029-1:2021 tentang Artificial
Intelligence (AI) - Assessment of the robustness of neural networks.
Sistem kecerdasan artifisial yang diusulkan juga harus memiliki kesesuaian
terhadap standar, baik standar terkait bidang tertentu yang harus dipenuhi, misal standar
keselamatan di bidang kesehatan atau di bidang penerbangan sipil, maupun standard
umum di bidang kecerdasan artifisial. Pengelola sandbox perlu bekerjasama dengan
regulator, karena regulator memiliki kewajiban untuk memantau semua entitas yang
berada di bawah yurisdiksinya untuk memastikan bahwa peraturan terkait telah dipatuhi
dan tidak ada eksploitasi terhadap pelanggan serta mitra bisnisnya.
Dalam hal keamanan data, sistem kecerdasan artifisial harus mematuhi aturan
perlindungan data pribadi di Indonesia maupun standar internasioal yang mengatur
tentang pengumpulan, penggunaan dan penyimpanan data, dan memastikan bahwa
informasi pribadi yang digunakan sesuai dengan standar privasi dan dilindungi dari
penyalahgunaan atau pencurian. Dalam ISO 27701 tentang Privacy Information
Management System (PIMS) terdapat beberapa panduan dalam (a) perolehan dan
pengolahan data, (b) mekanisme untuk mendapatkan persetujuan dari pemilik data, (c)
mekanisme porteksi data by design (dirancang dari tahap awal pengemabngan sistem)
maupun by default (memastikan bahwa data pribadi diproses dengan perlindungan
privasi tertinggi, misalnya hanya data yang diperlukan yang harus diproses, periode
penyimpanan singkat, dan aksesibilitas terbatas, sehingga secara default data pribadi
tidak dapat diakses oleh pihak yg tidak berhak.
Di Indonesia, aturan perlindungan data pribadi saat ini tertuang dalam Peraturan
Menteri (Permen) Nomor 20 Tahun 2016 tentang Perlindungan Data Pribadi (PDP). Data
Pribadi dinyatakan sebagai data perseorangan tertentu yang disimpan, dirawat, dan
dijaga kebenaran serta dilindungi kerahasiaannya. Peserta sandbox regulasi kecerdasan
artifisial selaku Penyelenggara Sistem Elektronik harus menyusun aturan internal
perlindungan Data Pribadi sebagai bentuk tindakan pencegahan untuk menghindari
terjadinya kegagalan dalam perlindungan Data Pribadi yang dikelolanya. Selanjutnya,
perolehan dan pengumpulan Data Pribadi wajib berdasarkan persetujuan atau
berdasarkan ketentuan peraturan perundang-undangan. Disamping itu, dalam Permen
tersebut juga diatur tentang keakuratan data pribadi, kehandalan sistem penyimpan data,
akses untuk pembaruan data, serta perwalian terhadap data anak-anak.
Lebih lanjut, karena sistem kecerdasan artifisial semakin memengaruhi kehidupan
setiap orang, maka diharapkan sistem tersebut juga memiliki standar etika, misalnya
transparansi dan akuntabilitas (PressRelease.id, 2018). Dalam hal transparansi, perlu
diberikan informasi kontekstual tentang bagaimana sistem kecerdasan artifisial beroperasi
sehingga masyarakat dapat memahami bagaimana keputusan dibuat dan lebih mudah
dalam mengidentifikasi potensi bias, kesalahan, dan hasil yang tidak diinginkan. Dalam hal
akuntabilitas, orang atau tim yang mendesain dan memasang sistem kecerdasan artifisial
harus bertanggung jawab bagaimana sistem tersebut beroperasi. Norma akuntabilitas
Panduan Sandbox Regulasi Kecerdasan Artifisial 14
untuk kecerdasan artifisial harus memanfaatkan pengalaman dan praktik dari sektor lain,
contohnya seperti privasi dalam perawatan kesehatan. Akuntabilitas juga harus dipatuhi
selama proses mendesain sistem dan secara terus-menerus saat sistem beroperasi.
3.3. Mekanisme Uji coba dan Evaluasi
Penyelenggaraan Regulatory Sandbox kecerdasan artifisial dilakukan dengan
mekanisme serupa dalam (UGM, 2021), sebagai berikut:
1. Penetapan Panitia atau Pengelola Sandbox sebagai panitia khusus yang berwenang
dan bertanggung jawab terhadap seluruh pelaksanaan regulatory sandbox.
2. Penetapan Forum Panel yang terdiri dari berbagai ahli di bidangnya yang ditunjuk dan
diberi kewenangan oleh Pengelola Sandbox.
3. Penetapan peserta ujicoba sebagai pengembang prototipe yang ditetapkan
berdasarkan forum panel.
4. Implementasi, evaluasi dan penetapan hasil uji coba Regulatory Sandbox.
Proses uji coba dalam regulatory sandbox kecerdasan artifisial dapat menerapkan
prinsip sebagimana ditetapkan dalam Peraturan Regulatory Sandbox Teknologi Finansial,
antara lain: (a) criteria-based process; (b) transparansi, (c) proporsionalitas, (d) keadilan
(fairness), (e) kesetaraan (equal treatment); dan (f) forward looking. Usulan skenario
ujicoba dari startups atau industri selaku penyelenggara teknologi kecerdasan artifisial
paling sedikit memuat:
a) produk, layanan, teknologi, dan/atau model bisnis yang akan diuji coba,
b) jangka waktu yang diperlukan untuk melakukan uji coba,
c) target yang akan dicapai,
d) batasan wilayah, batasan jumlah konsumen, dan batasan lainnya, serta
e) mekanisme pelaporan pelaksanaan uji coba dalam Regulatory Sandbox.
Untuk pedoman uji coba sistem kecerdasan artifisial yang berupa atau memiliki
komponen berupa aplikasi software dapat menggunakan panduan ISO/IEC 29119 tentang
Testing untuk Software and systems engineering bagian Guidelines on the testing of AI-
based systems.
Selanjutnya, Panitia Sandbox melakukan review atas usulan skenario yang
disampaikan oleh Penyelenggara Teknologi kecerdasan artifisial. Jika usulan skenario yang
disampaikan masih memerlukan perbaikan, Penyelenggara Teknologi kecerdasan artifisial
harus menyampaikan usulan skenario yang telah diperbaiki dalam jangka waktu tertentu.
Apabila Penyelenggara Teknologi kecerdasan artifisial tidak menyampaikan perbaikan
usulan skenario sampai dengan jangka waktu yang telah ditetapkan maka Penyelenggara
Teknologi Finansial dilarang memasarkan produk, layanan, teknologi, dan/atau model
bisnis yang akan diujicobakan dalam regulatory sandbox. Jika Panitia Sandbox menyetujui
usulan skenario yang diajukan oleh Penyelenggara Teknologi kecerdasan artifisial,
penyelenggara tersebut harus menyatakan kesanggupan menjalankan skenario uji coba
yang telah disetujui dengan menandatangani suatu surat pernyataan. Panitia Sandbox
menetapkan skenario uji coba produk, layanan, teknologi, dan/atau model bisnis dan
menyampaikan kepada Penyelenggara Teknologi kecerdasan artifisial melalui surat setelah
Panduan Sandbox Regulasi Kecerdasan Artifisial 15
Penyelenggara Teknologi Finansial menyatakan kesanggupan menjalankan skenario uji
coba.
Jangka waktu uji coba dalam regulatory sandbox ditetapkan dalam kurun waktu
tertentu, misalnya paling lama enam bulan sejak tanggal penetapan atas skenario uji coba,
akan tetapi masih bisa diperpanjang, misalnya satu kali untuk waktu paling lama enam
bulan. Perpanjangan jangka waktu diajukan secara tertulis oleh Penyelenggara Teknologi
kecerdasan artifisial kepada Panitia Sandbox dengan menginformasikan alasan dan jangka
waktu perpanjangan yang dibutuhkan.
Selama pelaksanaan uji coba dalam regulatory sandbox, Penyelenggara Teknologi
kecerdasan artifisial berkewajiban untuk:
a) memastikan diterapkannya prinsip perlindungan konsumen serta manajemen
risiko dan kehati-hatian yang memadai;
b) menyampaikan laporan pelaksanaan uji coba, baik secara reguler maupun
insidentil sesuai dengan permintaan Panitia Sandbox; dan
c) tetap menaati ketentuan peraturan perundang-undangan.
Di samping itu, Penyelenggara Teknologi kecerdasan artifisial bertanggung jawab
atas:
a) kebenaran dan keakuratan data, informasi, dan dokumen yang disampaikan untuk
uji coba dalam regulatory sandbox;
b) keamanan dan keandalan sistem yang digunakan untuk menjalankan produk,
layanan, teknologi, dan/atau model bisnis yang diuji-coba;
c) perlindungan data dan informasi konsumen; dan
d) penyelesaian seluruh hak dan kewajiban Penyelenggara Teknologi kecerdasan
artifisial kepada konsumen dan/atau pihak lain yang terkait, baik selama maupun
setelah proses uji coba dalam regulatory sandbox.
Makarim dan Mahardika (2020) mengidentifikasi mekanisme pengamanan
(safeguards) harus diterapkan selama uji coba, misalnya melalui: pembatasan pelanggan,
lingkup dan/atau durasi; kewajiban pelaporan tambahan/pemantauan yang lebih dekat;
perlindungan konsumen tambahan/mitigasi risiko; penerapan peraturan yang bersifat
wajib.
Pada tahap akhir (exit), Panitia Sandbox menetapkan status hasil uji coba dalam
regulatory sandbox berdasarkan hasil penilaian atas seluruh rangkaian kegiatan selama
pelaksanaan uji coba. Penilaian dilakukan dengan mempertimbangkan: (a) kesiapan dan
keandalan sistem dari Penyelenggara Teknologi kecerdasan artifisial; (b) penerapan
prinsip perlindungan konsumen serta manajemen risiko dan kehati-hatian; dan (c)
pemenuhan ketentuan peraturan perundang-undangan. Berdasarkan hasil penilaian
tersebut, Panitia Sandbox menetapkan status hasil uji coba dalam regulatory sandbox
yaitu: (a) berhasil atau direkomendasikan; (b) tidak berhasil atau tidak direkomendasikan;
dan (c) status lain yang ditetapkan Panitia Sandbox, misalnya kesempatan untuk
perbaikan.
Panduan Sandbox Regulasi Kecerdasan Artifisial 16
BAB IV
KASUS SANDBOX REGULASI KECERDASAN
ARTIFISIAL (KA)
4.1. Kasus Cargo Drone
Cargo drone adalah pesawat udara tanpa awak yang dikhususkan untuk
mengangkut barang menuju area yang sulit dijangkau dengan waktu yang lebih singkat.
Salah satu pemanfaatannya adalah pengiriman obat-obatan dari ke daerah kepulauan.
Pasar cargo drone di dunia diprediksikan akan bernilai 27.4 miliar dolar pada tahun 2030.
Kebutuhan untuk pengantaran barang lebih cepat, perubahan regulasi untuk cargo drone,
dan pemanfaatan cargo drone ringan turut serta dalam pertumbuhan pasar cargo drone.
Pada tanggal 28 Desember 2020 di Aerosummit 2020, Menteri Riset dan
Teknologi/Kepala Badan Riset dan Inovasi Nasional (BRIN) saat itu, Bambang
Brodjonegoro mengungkap bahwa program cargo drone sedang disiapkan oleh
kementeriannya. Hal ini dilatarbelakangi oleh meningkatnya penggunaan drone dan
proyeksi drone sebagai teknologi masa depan, baik di bidang sipil maupun militer. Untuk
mempercepat implementasi cargo drone di masyarakat, perlu dilakukan uji terbang di
lingkungan yang menggambarkan kondisi sebenarnya. Akan tetapi, seperti inovasi lainnya,
cargo drone tentu harus memenuhi persyaratan keselamatan, keamanan, dan
perlindungan kostumer. Untuk itu, dibutuhkan sebuah wadah untuk menguji inovasi cargo
drone dan regulasi yang harus diciptakan untuk memastikan persyaratan-persyaratan
tersebut.
4.1.1. Urgensi Sandbox Regulasi di bidang Cargo Drone
Sandbox diperlukan untuk berbagai lingkungan operasional yang berbeda, dan
kondisi seperti meteorologi dan oseanografi, gangguan tinggi, termasuk metropolitan,
mixed metro, maritim, dan pedesaan. Selain itu, sandbox harus disesuaikan untuk
menganalisis berbagai kasus penggunaan, seperti pada pengiriman paket, pasokan medis,
survei tanah atau infrastruktur, operasi swarm, operasi pengangkutan barang dan harus
mencakup operasi dalam ruangan, Visual Line of Sight (VLoS) dan Beyond VLoS (BVLoS)
(DroneDeliveryGroup, 2020).
Terkait kecerdasan artifisial, cargo drone diharapkan memiliki kemampuan detect
& avoid, yakni kemampuan untuk melihat, merasakan, atau mendeteksi konflik lalu lintas
atau bahaya lain dan mengambil tindakan yang sesuai (UK-CAA, 2020). Karena pilot jarak
jauh dari pesawat tak berawak tidak mampu memberikan mitigasi 'see-and-avoid' yang
sama untuk potensi bahaya, sistem pesawat tak berawak itu sendiri harus mampu
melakukan fungsi yang setara. Untuk itu, perlu ditambahkan sensor atau teknologi
Panduan Sandbox Regulasi Kecerdasan Artifisial 17
tambahan, seperti Automatic Dependent Surveillance–Broadcast (ADS-B), flight alarm
(FLarm), dan Traffic Collision Avoidance System (TCAS).
Gambar 5. Deteksi kondisi bahaya dalam fitur kecerdasan artifisial “detect-and-avoid” (UK-
CAA, 2020).
Sandbox regulasi menawarkan kesempatan untuk memahami inovasi dan regulasi
terkait. Perusahaan atau lembaga pembuat cargo drone dapat bekerja sama dengan
pemerintah dan masyarakat sekitar untuk menguji kelayakan konsep cargo drone. Hasil
akhir yang bisa dicapai adalah inovasi yang lebih baik dan regulasi baru yang memadai.
Sebagai sebuah kerangka kerja untuk menguji inovasi dan peraturan, sandbox regulasi
memiliki tiga karakteristik yaitu tempat dan waktu yang terbatas, memanfaatkan
kelonggaran regulasi, dan untuk menciptakan regulasi baru. Sandbox regulasi
menawarkan area pengujian terbatas pada waktu tertentu. Hal ini sangat penting karena
saat ini belum ada regulasi oleh pemerintah terkait cargo drone. Pemerintah ingin
menjamin keselamatan dan keamanan masyarakat namun juga tidak ingin menghambat
inovasi teknologi, khususnya cargo drone. Untuk itu, area pengujian terbatas ini dapat
digunakan untuk terus berinovasi tanpa membawa bahaya yang signifikan bagi
masyarakat.
Sandbox regulasi juga memanfaatkan kelonggaran regulasi. Meski regulasi terkait
cargo drone belum tercipta, pengujian cargo drone bisa tetap dilaksanakan dengan
menawarkan fleksibilitas dari sisi regulasi. Hal ini tentu harus diikuti dengan instrumen
evaluasi untuk menguji hasil dari eksperimen cargo drone. Lebih lagi, sandbox regulasi
dapat dimanfaatkan untuk menciptakan regulasi baru. Kerangka kerja ini tidak hanya
berfokus pada inovasi, tapi juga menitikberatkan pada aturan yang harus diciptakan jika
inovasi ini akan diterapkan pada masyarakat.
4.1.2. Kelembagaan Sandbox Regulasi
Sandbox regulasi terdiri dari interaksi beberapa dari pemerintah pusat, pemerintah
daerah, pelaku industri, peneliti, investor dan bidang lainnya. Analisa pemangku
kepentingan dibutuhkan untuk menentukan peran apa yang akan dijalankan oleh setiap
lembaga tersebut. Pemangku kepentingan utama adalah orang atau organisasi
dengan kemampuan pengambilan keputusan tingkat tinggi terkait dengan sandbox
Panduan Sandbox Regulasi Kecerdasan Artifisial 18
regulasi. Pemangku kepentingan utama harus terlibat secara dekat dalam implementasi
sandbox regulasi ini. Diskusi terbuka dan terjadwal diperlukan untuk membangun
hubungan antar pemangku kepentingan dan menciptakan ketertarikan pada kerangka
kerja ini.
Salah satu peran penting dari para pemangku kepentingan utama adalah untuk
membantu koordinasi dengan pemerintah pusat dan daerah. Hal ini dibutuhkan karena
dibutuhkan izin untuk dapat melakukan kegiatan di lingkungan sandbox regulasi.
Partisipan aktif memegang peran penting untuk menyediakan jasa atau produk untuk
implementasi sandbox regulasi atau pemenuhan kebutuhan terkait regulasi. Keterlibatan
partisipan aktif dapat dimulai dari awal pembentukan sandbox regulasi. Partisipan
pendukung dapat membantu sandbox regulasi untuk memberikan akses pada
pemerintahan dan bekerja sama dengan masyarakat. Partisipan pendukung dapat
menyebarluaskan hasil dari inovasi di lingkungan sandbox regulasi. Partisipan pendukung
juga harus mendapatkan informasi terbaru tentang perkembangan sandbox regulasi.
Masyarakat sekitar juga merupakan pemangku kepentingan dalam sandbox regulasi.
Mereka hidup di lingkungan sandbox regulasi dan bertindak sebagai pengguna
sesungguhnya dari teknologi cargo drone yang akan diuji. Tentu, kegiatan sandbox
regulasi harus mendapatkan persetujuan dari masyarakat sekitar. Pengembangan
teknologi cargo drone diharapkan dapat membantu kegiatan masyarakat sekitar. Sebagai
timbal balik, masyarakat bisa memberikan masukan dan saran terkait teknologi yang
sedang dikembangkan.
4.1.3. Persyaratan Keikutsertaan dalam Sandbox
Perusahaan atau lembaga yang tertarik untuk mengikuti sandbox regulasi harus
mendapat persetujuan dari pemerintah. Persetujuan ini dapat dapat diatur melalui nota
kesepahaman yang bertujuan untuk menjaga keselamatan dan keamanan masyarakat
sekitar. Di dalamnya turut diatur pertanggungjawaban dari tiap-tiap perusahaan, lembaga,
dan masyarakat yang terlibat dalam sandbox regulasi.
Dari Bell (2019), terdapat beberapa praktik baik dalam persyaratan keikutsertaan
dalam sandbox drone khususnya bidang BVLoS, bahwa aplikasi yang diajukan seharusnya
relevan dengan tema/tantangan yang diberikan, memiliki kematangan teknis yang
memadai, telah menyelesaikan integrasi platform secara penuh, berusaha mematuhi
aturan dan pedoman yang ada, didukung oleh penelitian yang relevan, dan memiliki
jadwal yang realistis.
4.1.4. Uji coba dan Evaluasi
Pengoperasian Pesawat Udara Tanpa Awak (PUTA) atau drone untuk keperluan
penelitian dan pengembangan maupun percobaan (experimental) memiliki potensi bahaya
malfungsi yang cukup besar. Untuk meminimalkan bahaya dari drone dimaksud
dimungkinkan utk dibuat sebuah ruang udara tersendiri sebagai Test Field Area (TFA).
Area ini terdiri dari wilayah darat dan atau wilayah perairan dengan ruang udara di
atasnya yang di gunakan untuk kegiatan pengoperasian drone tersebut. Ruang udara utk
Panduan Sandbox Regulasi Kecerdasan Artifisial 19
TFA tersebut bersifat semi permanen dengan ketentuan (DKPPU-Kemenhub, 2021)
sebagai berikut:
● TFA dapat diajukan dgn mekanisme pengajuan sesuai Peraturan Menteri
Perhubungan Nomor 37 Tahun 2020 dengan menyebutkan di surat permohonan
bahwa ruang udara tsb akan digunakan sebagai TFA.
● Dilakukan safety assesment terlebih dahulu untuk menentukan batas-batas
horisontal dan vertikal dari TFA sehingga tidak menimbulkan hazard bagi
penerbangan berawak dan masyarakat di sekitar proposed TFA.
● Setelah ditetapkan, TFA dapat digunakan tanpa melalui proses birokrasi, hanya
diperlukan koordinasi/pelaporan ke pengelola TFA.
● TFA dievaluasi secara berkala utk memastikan kelayakan TFA.
Indonesia melalui Kementerian Perhubungan (Kemenhub) dan Kementerian
Pertahanan (Kemenhan) saat ini memiliki aturan-aturan tentang pengoperasian drone
yang harus dipatuhi baik oleh pengguna maupun oleh operator (TerraDrone, 2020),
antara lain:
● Undang-Undang Nomor 1 Tahun 2009 tentang Penerbangan.
● Peraturan Pemerintah Nomor 4 Tahun 2018 tentang Pengamanan Wilayah Udara
Republik Indonesia;
● Peraturan Menteri Pertahanan Nomor 26 Tahun 2013 tentang Pengamanan Survei
dan Pemetaan Wilayah Nasional;
● Peraturan Menteri Perhubungan Nomor 37 Tahun 2020, tentang Pengoperasian
Pesawat Udara Tanpa Awak di Ruang Udara yang Dilayani Indonesia, yang
menggantikan Peraturan Menteri Perhubungan No. 47 Tahun 2016 & No. 180
Tahun 2015;
● Peraturan Menteri Perhubungan Nomor 163 Tahun 2015 tentang Peraturan
Keselamatan Penerbangan Sipil (PKPS) Bagian 107 tentang Sistem Pesawat Udara
Tanpa Awak Kecil;
Dari aturan-aturan tersebut, pada dasarnya terdapat beberapa perizinan yang
harus dilengkapi bersama-sama baik oleh pengguna maupun operator, yaitu:
● Sertifikat remote pilot dan registrasi drone yang diberikan oleh Direktorat Jenderal
Perhubungan Udara (DJHU) melalui Direktorat Kelaikudaraan & Pengoperasian
Pesawat Udara (DKPPU) Kemenhub. Kedua hal ini harus didapatkan oleh operator
drone sebelum mengurus perizinan lainnya.
● Izin operasi penerbangan drone di ruang udara yang dilayani, yang diberikan oleh
DJHU melalui Direktorat Navigasi Penerbangan (DNP). Izin ini dapat diperoleh
setelah operator drone menerima surat rekomendasi dari Perum Lembaga
Penyelenggara Pelayanan Navigasi Penerbangan Indonesia (LPPNPI) Airnav.
● Security Clearance (SC) yang diberikan oleh Direktorat Jenderal Strategi
Pertahanan (Dirjen Strahan) Kemenhan. Izin ini dapat diperoleh setelah pengguna
jasa drone mendapatkan persetujuan terkait kegiatan survei dan perekaman data
yang akan dilakukan.
Panduan Sandbox Regulasi Kecerdasan Artifisial 20
● Surat Izin Terbang yang diberikan oleh Pangkalan Udara (Lanud) TNI AU setempat,
apabila kegiatan dilakukan di ruang udara terbatas dan terlarang. Izin ini dapat
diperoleh setelah seluruh izin-izin lainnya sudah diperoleh oleh operator drone.
● Izin-izin lain terkait sosial, keamanan, dan kepemilikan lahan dari instansi
pemerintah terkait (misal: izin dari Dinas Kebudayaan apabila kegiatan dilakukan di
cagar budaya, atau izin dari Dinas Kehutanan apabila kegiatan dilakukan di wilayah
hutan lindung).
Persetujuan terhadap area pengoperasian PUTA diperlukan bagi PUTA pada ruang
udara yang dilayani sebagai berikut: (a) ruang udara disekitar bandar udara; (b)
Controlled Airspace; (c) Uncontrolled Airspace, di atas ketinggian 400 ft (120 m) Above
Ground Level (AGL). Sementara itu, persetujuan tidak diperlukan bagi PUTA pada ruang
udara Uncontrolled Airspace, di bawah ketinggian 400 ft AGL1 (120 m). Mekanisme
persetujuan pengoperasian PUTA saat ini dapat dilihat pada Gambar 6. Peserta sandbox
menyampaikan aplikasinya ke Airnav Indonesia untuk sistem navigasi, ke DKPPU-
Kemenhub untuk proses perijinan dan ke Kemenhan untuk security clearance. Tahap
selanjutnya aplikasi akan diperiksa oleh Direktorat Navigasi Penerbangan (DNP) untuk
memperoleh otorisasi operasi dan notam (notice to airman).
Gambar 6. Mekanisme persetujuan pengoperasian PUTA (sumber: DKPPU-Kemenhub,
2021).
4.2. Kasus Alat Kesehatan
4.2.1. Urgensi Sandbox Regulasi di bidang Alat Kesehatan
Perkembagan teknologi biomedis dan informasi serta komunikasi telah melahirkan
berbagai produk inovasi yang berperan penting dalam proses pelayanan kesehatan.
Adapun, genre teknologi tersebut antara lain, meliputi metode diagnostik, pengobatan dan
terapi, serta pencegahan dan pengawasan. Sementara teknologi informasi yang mulai
1 Above Ground Level 21
Panduan Sandbox Regulasi Kecerdasan Artifisial
banyak digunakan dibidang pelayanan kesehatan antara lain adalah Kecerdaan artifisial
yang terdiri dari machine learning dan deep learning. Selain itu, teknologi dan data
kesehatan juga banyak menggunakan pendekatan mega data (big data) dan blockchain.
Perkembangan produk layanan teknologi kesehatan yang menjadi solusi bagi
permasalahan saat ini biasanya telah megintegrasikan kemajuan di bidang mikro
elektronika (sensor) dan kecerdasan artifisial dalam pengolahan data. Saat ini otoritas dan
regulator yang memiliki kewenangan untuk memberikan izin penggunaan teknologi
kesehatan tersebut sebagian besar masih mengacu kepada aturan terdahulu yang belum
sepenuhnya mampu mengakomodir perkembangan yang terjadi. Sesuai dengan aturan
yang berlaku, produk inovasi dalam ranah pelayanan kesehatan wajib melalui serangkaian
proses yang antara lain meliputi mekanisme uji klinis, sertifikasi dan registrasi, sampai
memperoleh izin edar. Prosedur uji klinis yang saat ini berlaku antara lain uji pre-klinis,
klinis, dan post market untuk menjamin keamanan dan keselamatan pengguna serta
membuktikan efikasi atau kemanjuran dari produk layanan ksehatan yang di maksud.
Teknologi kesehatan berbasis kecerdasan artifisial adalah suatu produk yang
mengintegrasikan teknologi kedokteran dengan program komputasi yang dapat membuat
mesin bekerja layaknya kecerdasan manusia, seperti mengambil keputusan, memecahkan
masalah, dan melakukan prediksi (Russell & Norvig, 2018). Kecerdasan artifisial juga
didefinisikan sebagai intelgensi eksternal (Arthur, 2017). Kecerdasan artifisial bekerja
menggunakan algoritma dengan machine learning dan deep learning sebagai dua metode
yang paling popular untuk pemprosesan data. Machine learning adalah sub-set dari
kecerdasan artifisial yang bekerja dengan menggunakan algoritma untuk mempelajari
data yang diberikan (Goldberg & Holland, 1988). Serangkaian definisi, machine learning
didefinisikan sebagai proses pelatihan suatu mesin dengan data set yang terulang-ulang
yang dapat menjadikan mesin mampu memprediksi dan meniru fungsi kecerdasan
manusia.
Gambar 7. Faktor pendukung dan penghambat inovasi. 22
Panduan Sandbox Regulasi Kecerdasan Artifisial
Di sisi lain, deep learning adalah turunan dari machine learning yang dapat bekerja
dengan lebih mandiri, dengan cara melakukan pelatihan menggunakan data yang lebih
banyak dan berlapis lapis (Le Cun et.al, 2015). Dalam pengembangan inovasi, terdapat
beberapa faktor pendukung dan penghambat (Gambar 7). Warna biru mengidentifikasi
faktor yang mendukung transisi inovasi dan warna oranye mengidentifikasi faktor yang
menghambat.
Menyimak penjelasan di atas dan mengantisipasi laju perkembangan riset dan
teknologi dalam bidang layanan kesehatan, diperlukan suatu pendekatan yang tidak biasa
dalam hal proses pengujian, perizinan, regulasi, dan pengawasan. Regulatory sandbox
adalah sebuah lembaga mandiri yang diharapkan dapat membantu percepatan proses
pengujian, regulasi, perizinan, dan pengawasan yang bersifat adaptif terhadap
perkembangan teknologi yang terjadi. Perlu menjadi bahan pertimbangan adalah
pesatnya pertumbuhan perusahaan rintisan di bidang teknologi kesehatan yang juga
menggunakan kecerdasan artifisial sebagai sebuah keniscayaan yang saat ini sudah
terjadi di Indonesia. Sementara kebutuhan terhadap pemerataan infrastruktur pelayanan
kesehatan di tanah air memerlukan upaya percepatan yang bersifat signifikan.
Keberadaan lembaga mandiri regulatory sandbox diharapkan dapat menjembatani
terjadinya proses percepatan adaptasi teknologi dengan tetap mengedepankan kaidah
akademis, etik, dan berbagai asas kepatutan ilmiah. Untuk itu regulatory sandbox
memerlukan aspek representasi dari unsur akademis, otoritas regulator, lembaga
pengujian, perwakilan pengguna dan lembaga inkubasi.
Lebih lanjut, adopsi cepat telemedicine dan platform kesehatan digital lainnya
telah mengubah lanskap layanan kesehatan di Indonesia, meskipun harus menghadapi
ketidakpastian peraturan. Namun demikian, regulasi yang mengatur layanan kesehatan
digital masih terbatas (Dewaranu, 2021), yaitu Peraturan Menteri Kesehatan (Permenkes)
Nomor 20 Tahun 2019 tentang Pelayanan Telemedis Sebagai Bagian dari Fasilitas
Pelayanan Kesehatan, dan Peraturan Badan Pengawas Obat dan Makanan (BPOM) Nomor
8 Tahun 2020. Untuk mengisi kekosongan tersebut, Konsil Kedokteran Indonesia (KKI)
juga telah mengeluarkan Peraturan Nomor 74 Tahun 2020 tentang Kewenangan Klinik
dan Praktik Kedokteran Melalui Telemedis Selama Pandemi COVID-19 di Indonesia.
Meskipun demikian, semua peraturan tersebut memberikan ketentuan yang terbatas
tentang standar perlindungan data konsumen.
Dalam hal ini, regulatory sandbox dapat memainkan peran antisipatif, untuk
mengembangkan regulasi seiring dengan perubahan teknologi produk dan layanan baru.
Melalui proses ini, penyedia telemedicine misalnya, dapat diberi ruang untuk menguji
praktik terbaik saat ini dalam pengelolaan, berbagi, dan perlindungan data. Dari uji coba
tersebut, regulator kemudian dapat diinformasikan tentang tahap teknologi saat ini di
industri dan bagaimana menyediakan kerangka peraturan yang mendukung inovasi untuk
sektor ini. Sebagai tempat uji coba bagi perusahaan rintisan yang inovatif, sandbox
Panduan Sandbox Regulasi Kecerdasan Artifisial 23
regulasi untuk kesehatan digital juga dapat diterapkan untuk memajukan interoperabilitas
platform dengan berbagai layanan terkait kesehatan seperti asuransi swasta dan publik,
dan pembayaran elektronik.
Seiring dengan tuntutan regulasi tersebut, Kementerian Kesehatan telah
melakukan inisiasi regulatory sandbox di bidang kesehatan digital sebagimana
diilustrasikan pada Gambar 8, di mana inovasi disruptif di bidang kesehatan yang semula
terkendala dalam pemenuhan persyaratan, lisensi dan implementsinya dapat difasilitasi
melalui regulatory sandbox sehingga dapat memperoleh perijinan penuh (Setiaji, 2021).
Sandbox regulasi ini juga diharapkan dapat mendukung peta jalan transformasi kesehatan
digital, dari sisi regulasi dan teknologi tahun 2021 sampai dengan 2024, sebagaimana
tertera pada Tabel 3.
Gambar 8. Rancangan regulatory sandbox di bidang kesehatan (Setiaji, 2021).
Tabel 3. Peta jalan transformasi kesehatan digital.
Tahun 2021 2022 2023 2024
Sasaran
Desain Arsitektur Pengembangan Implementasi Perluasan
Regulasi Kesehatan Digital Sistem Kesehatan Kesehatan Digital Kesehatan
Digital Digital
- Implementasi
- Regulasi tata kelola - Penyusunan Regulatory - Perluasan
satu data Pedoman dan Uji Sandbox pada perijinan inovasi
kesehatan Coba Regulatory Inovasi teknologi
Sandbox Inovasi Kesehatan kesehatan
- Rencana induk Teknologi berbasis AI, berbasis
SPBE bidang Kesehatan Blockchain, kecerdasan
kesehatan Internet of artifisial,
- Pedoman Things (IoT) dan Blockchain, IoT
Implementasi dan
Layanan
Panduan Sandbox Regulasi Kecerdasan Artifisial 24
Tahun 2021 2022 2023 2024
Biotechnology Biotechnology
Telemedicine
Publik
Teknologi - Desain arsitektur - Pengembangan - Implementasi - Perluasan
big data bidang Sistem Big Data Sistem Pelayanan cakupan
kesehatan berbasis single- Kesehatan implementasi
health identity Terintegrasi Sistem
- Desain arsitektur berbasis single- Pelayanan
interoperabilitas - Pengembangan health identity Kesehatan
sistem kesehatan Sistem Informasi Terintegrasi
Fasilitas Pelayanan - Implementasi berbasis single-
Kesehatan sistem analisa health identity
Terintegrasi kesehatan
berbasis
kecerdasan
artifisial
4.2.2. Kelembagaan Sandbox Regulasi Alat Kesehatan
Regulatory sandbox di bidang kesehatan sebaiknya mengacu kepada entitas badan
sebagaimana yang telah dilaksanakan di BI yang diperuntukan untuk mengatur teknologi
finansial. Merujuk pada lembaga regulatory sandbox yang di maksud memiliki kemandirian
dan fasilitas yang dapat membantu proses pengujian (testbed) serta didukung oleh semua
unsur yang merupakan pemangku kebijakan dan kepentingan. Adapun secara
kelembagaan regulatory sandbox dapat bernaung di bawah koordinasi salah satu
kementerian/lembaga yang memiliki cakupan kewenangan dibidang teknis dan regulasi
atau menjadi lembaga mandiri yang secara vertical langsung bertanggung jawab kepada
Presiden.
4.2.3. Persyaratan Keikutsertaan dalam Sandbox
Adapun lembaga riset dan perusahaan rintisan yang dapat difasilitasi oleh lembaga
regulatory sandbox teknologi kesehatan adalah sebagai berikut:
1. Lembaga riset dan perusahaan rintisan yang telah memiliki produk atau sistem
yang dikembangkan melalui proses penelitian mandiri ataupun kolaborasi lintas
institusi.
2. Produk inovasi hasil riset yang dikembangkan dinilai memiliki urgensitas tinggi
untuk diterapkan di dalam proses pelayanan kesehatan.
3. Proses pengujian dan percepatan pemberian izin dapat dipertimbangkan dengan
tetap mengacu kepada asas keselamatan, keamanan, dan kebutuhan serta
ketersedian produk baik sebagai produk substitusi teknlogi impor atau sebagai
Panduan Sandbox Regulasi Kecerdasan Artifisial 25
produk inovasi yang dianggap dapat meningkatkan kualitas pelayanan kesehatan
nasional.
4. Proses evaluasi terhadap efektivitas produk dapat dilakukan dengan indicator
objective dan terstandarisasi.
4.2.4. Uji coba dan Evaluasi
Proses uji coba terhadap kehandalan dan keamanan serta keselamatan produk
teknologi kesehatan berbasis kecerdasan artifial mengacu pada Standar Nasional
Indonesia (SNI) ISO/IEC TR 29119-11:2020 rekayasa perangkat lunak dan system –
pengujian perangkat lunak – bagian 11: panduan pengujian system berbasis kecerdasan
artifisial sebagaimana dimaksud merupakan adopsi identik melalui metode republikasi-
reprint dari standard ISO/IEC TR 29119-11:2020 software and systems engineering –
software testing – guidelines on the testing of al-based systems, yang ditetapkan oleh
Badan Standardisasi Nasional (BSN) dan mengacu pada aturan Peraturan Menteri
Kesehatan Republik Indonesia Nomor 269 tahun 2008 tentang rekam medis; Peraturan
Menteri Kesehatan Republik Indonesia Nomor 62 tahun 2017 tentang izin edar alat
Kesehatan, alat Kesehatan diagnostic in vitro dan perbekalan Kesehatan rumah tangga;
serta Peraturan Menteri Kesehatan Republik Indonesia Nomor 63 tahun 2017 tentang cara
uji klinik alat Kesehatan yang baik.
Sarana dan prasarana ujicoba (testbed) diselenggarakan atau diadakan dengan
bekerja sama dan mendayagunakan fasilitas laboratorium uji lembaga dan kementerian
terkait serta perguruan tinggi dan institusi riset kredibel lainnya. Proses pengujian
melibatkan tim penelaah dan penguji yang terdiri dari pakar sebidang dan lintas bidang
serta dilakukan dengan menggunakan kaidah dan standar yang dapat diterima oleh
komunitas ilmiah global. Proses uji coba baik yang bersifat preklinis, klinis, sampai post
market dilakukan secara bertahap dengan melibatkan segenap komponen uji yang
diharapkan dapat memberikan gambaran validitas dan keamanan serta keamanan produk
di berbagai tingkatan dan waktu penggunaan. Proses uji coba di harapkan juga mampu
memberikan gambaran terkait dengan pengoperasian, pengelolaan, dan pemeliharaan
produk teknologi kesehatan berbasis kecerdasan artifisial.
Selain proses uji coba dan evalausi, regulatory sandbox perlu menilai kurikulum
pendidikan dan pelatihan untuk para tenaga professional yang terkait dengan
pengembangan, pengoperasian, pemanfaatan, pengelolaan, dan pemeliharaan dari
produk teknologi kesehatan berbasis kecerdasan artifisial yang di maksud. Lembaga
regulatory sandbox memiliki kewenangan untuk menilai, menguji, dan mengevaluasi
format data dan protokol pengoperasian sistem terkait dengan pemanfaatan produk
teknologi kesehatan berbasis kecerdasan artifisial.
Panduan Sandbox Regulasi Kecerdasan Artifisial 26
Catatan :
1. Definisi pemangku kepentingan yang dimaksud di atas antara lain adalah representasi
dari asosiasi profesi seperti Ikatan Dokter Indonesia (IDI), Asosiasi Produsen Alat
Kesehatan Indonesia (ASPAKI), Gabungan Perusahaan Alat-Alat Kesehatan dan
Laboratorium (Gakeslab), atau Perhimpunan Rumah Sakit Seluruh Indonesia (PERSI).
Juga perguruan tinggi dan lembaga riset terkait, serta lembaga sertifikasi profesi seperti
Konsil Kedokteran Indonesia.
2. Aspek kelembagaan jika bernaung di kementerian/lembaga/badan pemerintahan maka
tentu harus mengacu kepada dasar perundangan terkait dengan fungsi sebagai state
auxillaries agency yang menurut Hans Kelsen, merupakan organ negara yang setidaknya
menjalankan salah satu dari dua fungsi, yakni: fungsi menciptakan hukum (law-creating
function) atau fungsi yang menerapkan hukum (law-applying function). Fungsi regulatory
sandboxing termasuk menciptakan tatanan hukum baru dalam ranah perizinan dan
pengujian maka diperlukan dasar hukum yang tidak bertentangan dengan hukum tata
negara yang saat ini berlaku.
3. Aspek pembiayaan lembaga dan aktivitas operasional regulatory sandbox memerlukan
mekanisme sejenis dengan sistem keuangan dan penganggaran yang diterapkan di Badan
Layanan Umum/ BLU. Dimana penerimaan dapat dikonversi menjadi penerimaan negara
bukan pajak. Sumber pendapatan dapat nerasal dari partisipan seperti lembaga riset dan
perusaan rintisan teknologi, juga dari industri manufaktur yang berniat menghilirisasi
produk teknologi terkait. Selain tentu anggaran operasional rutin dari
Kementerian/Lembaga terkait melalui mekanisme Anggaran Pendapatan dan Belanja
Negara (APBN).
Panduan Sandbox Regulasi Kecerdasan Artifisial 27
BAB V
PENUTUP
Inovasi kecerdasan artifisial diperlukan untuk meningkatkan penyampaian layanan
digital di Indonesia, dan regulasi yang tepat dapat membantu mendorong pemanfaatan
inovasi tersebut. Namun demikian, inovasi disruptif seringkali muncul tanpa diantisipasi
oleh regulasi yang ada. Lingkungan pengujian yang disediakan oleh skema sandbox
memungkinkan regulator untuk belajar dari praktik terbaik saat ini dan merancang solusi
untuk membantu sektor tersebut tumbuh.
Dalam mendorong inovasi, skema sandbox lebih unggul jika dibandingkan dengan
pembuatan kebijakan yang bisanya dilakukan secara top-down. Regulasi mewajibkan
kepatuhan yang bisa jadi memberatkan untuk perusahaan rintisan yang mulai berinovasi.
Di lain pihak, sandbox regulasi mendorong inovasi berdasarkan pelajaran dari praktik
ujicoba di lingkungan terbatas. Sandbox regulasi yang diawali pada bidang keuangan
khususnya teknologi finansial, telah diikuti dengan inisiatif sandbox regulasi untuk
mendorong penerapan inovasi di sektor lainnya yang telah dilakukan di berbagai negara.
Pengalaman dari beberapa negara menunjukkan bahwa sandbox regulasi dapat
mempercepat penerapan inovasi.
Di Indonesia telah terdapat inistiatif penerapan sandbox regulasi di bidang
teknologi finansial, dan insiasi di bidang kesehatan (e-malaria). Namun demikian, masih
belum terdapat sandbox regulasi yang secara khusus yang berfokus di bidang kecerdasan
artifisial. Tim Pusat Inovasi Kecerdasan Artifisial BPPT/BRIN mendorong inisiatif sandbox
regulasi di bidang Kecerdasan Artifisial, dengan use case awal di bidang smart health dan
smart mobility.
Ke depan, masih diperlukan kesepakatan antar para pemangku kepentingan
bidang kecerdasan artifisial untuk menetapkan pengelola sandbox, tim ahli dalam forum
panel, regulator terkait, serta persyaratan untuk produk dan peserta sandbox, mekanisme
detail pengujian dan syarat kelulusan. Kolaborasi multi-pihak dalam pengembangan
sandbox regulasi kecerdasan artifisial diharapkan dapat mempercepat komersialisasi
produk-produk inovasi kecerdasan artifisial.
Panduan Sandbox Regulasi Kecerdasan Artifisial 28
DAFTAR PUSTAKA
1. Alaqail, H., Ahmed, S. (2018). Overview of Software Testing Standard ISO/IEC/IEEE
29119, IJCSNS International Journal of Computer Science and Network Security,
VOL.18 No.2, February 2018.
2. Armstrong H., Gorst C., Rae J., 2019. Renewing regulation: anticipatory regulation in
an age of disruption [Internet]. 2019.
https://media.nesta.org.uk/documents/Renewing_regulation_v3.pdf.
3. Attrey, A., Lesher, M., & Lomax, C. (2020). The role of sandboxes in promoting
flexibility and innovation in the digital age. Going Digital Toolkit Policy Note, No. 2,
OECD. Available at: https://goingdigital.oecd.org/toolkitnotes/the-role-of-sandboxes-
in-promoting-flexibility-andinnovation-in-the-digital-age.pdf.
4. Bell, J. (2019). Innovation Hub: Pathfinder Community Update, Pathfinder Community
Event: Innovation Hub Update, Desember 2019
5. Buckley, Ross P., Dougles Arner, Robin Veidt & Dirk Zetzsche (2020). Building Fintech
Ecosystems: Regulatory Sandboxes, Innovation Hubs and Beyond, 61 Washington
University Journal of Law & Policy, vol. 61, 55-98.
6. CMS (2020). Russia Introduces Regulatory Sandboxes for Digital Innovation. CMS Law.
27 October 2020. Available at: https://www.cms-lawnow.com/ealerts/2020/10/russia-
introducesregulatory-sandboxes-for-digital-innovation?cc_lang=en.
7. Datatilsynet (2021). Sandbox for Responsible Artificial Intelligence. Available at:
https://www.datatilsynet.no/en/regulations-and-tools/sandbox-for-artificial-
intelligence/.
8. Deloitte (2018). The Future of Regulation: Principles for Regulating Emerging
Technologies, Deloitte Center for Government Insights Analysis.
9. Dewaranu, T. (2021). Regulatory Sandbox for Health Technology in Indonesia, Center
for Indonesian Policy Studies, https://id.cips-indonesia.org/post/opini-regulatory-
sandbox-for-health-technology-in-indonesia.
10. DroneDeliveryGroup (2020). The Commercialisation Of The UK Civil Air Drone Industry,
An Industry White Paper Presented to UK Government.
11. DKPPU-Kemenhub (2021), Regulasi Dalam Pengoperasian Pesawat Udara Tanpa Awak
(Use Case: Cargo Drone), Direktorat Kelaikudaraan Dan Pengoperasian Pesawat Udara
(DKPPU) Direktorat Jenderal Perhubungan Udara, Kementerian Perhubungan.
12. FCA (Financial Conduct Authority), 2015. Regulatory sandbox.
https://www.fca.org.uk/publication/research/regulatorysandbox.pdf.
13. Inter-American Development Bank (2020), Regulatory Sandboxes and Innovation
Tesbeds: A Look at International Experience and Lessons for Latin America and the
Carribean, https://publications.iadb.org/publications/english/document/Regulatory-
Sandboxes-and-Innovation-Testbeds-A-Look-at-International-Experience-in-Latin-
America-and-the-Caribbean.pdf.
Panduan Sandbox Regulasi Kecerdasan Artifisial 29
14. Goo, J., Heo, J-Y., (2020), The Impact of the Regulatory Sandbox on the Fintech
Industry, with a Discussion on the Relation between Regulatory Sandboxes and Open
Innovation, Journal of Open Innovation: Technology, Market, and Complexity.
15. Jeník, I., and Duff, S. (2020), How to Build A Regulatory Sandbox: A Practical Guide
for Policy Makers, GCAP.
16. Leckenby, E., Dawoud, D., Bouvy, J., Jónsson, P., 2021.The Sandbox Approach and its
Potential for Use in Health Technology Assessment: A Literature Review, Applied
Health Economics and Health Policy https://doi.org/10.1007/s40258-021-00665-1
17. PressRelease.id (2018), Etika Jadi Bagian Terpenting Dalam Teknologi Kecerdasan
Buatan (AI), https://pressrelease.kontan.co.id/release/etika-jadi-bagian-terpenting-
dalam-teknologi-kecerdasan-buatan-ai?page=all
18. Pusat Inovasi Kecerdasan Artifisial (2020), Strategi Nasional Kecerdasan Artifisial 2020
- 2045.
19. Ranchordas, S. (2021). Experimental Regulations For AI: Sandboxes For Morals And
Mores, Forthcoming in vol. 1 (1/2), Morals and Machines (2021)
https://www.mam.nomos.de/.
20. Rodrigues, R. (2020). Legal and human rights issues of AI: Gaps, challenges and
vulnerabilities, Journal of Responsible Technology 4 (2020) 100005.
21. Setiaji (2021). Digital Transformasi Kementerian Kesehatan, Digital Transformation
Office (DTO) - Kementerian Kesehatan.
22. TerraDrone (2020), Perizinan Drone yang Berlaku di Indonesia, https://terra-
drone.co.id/en/blog/2020/09/08/perizinan-drone-yang-berlaku-di-indonesia/
23. UGM (2021). Panduan Uji Coba Regulatory Sandbox untuk e-Malaria Edisi Kedua,
Malaria Working Group, Universitas Gadjah Mada.
24. UK-CAA (2020), Innovation Hub: Beyond Visual Line of Sight in Non-Segregated
Airspace, Fundamental Principles & Terminology, UK Civil Aviation Authority, v2
October 2020.
25. ZICO (2020), Cultivating Innovation Through Regulatory Sandboxes, ASEAN INSIDERS.
Panduan Sandbox Regulasi Kecerdasan Artifisial 30
LAMPIRAN
STANDAR PENGUJIAN APLIKASI KA: SNI ISO/IEC TR 29119-11:2020
Software and systems engineering — Software testing — Part 11: Guidelines on the
testing of AI-based systems, terdiri dari:
- ISO/IEC/IEEE 29119-1: Concepts and Definitions
- ISO/IEC/IEEE 29119-2: Test Process
- ISO/IEC/IEEE 29119-3: Test Documentation
- ISO/IEC/IEEE 29119-4: Test Techniques
- ISO/IEC/IEEE 29119-5: Keyword Driven Testing
ISO/IEC/IEEE 29119 adalah standarisasi yang mencakup pengujian sistem dan
rekayasa perangkat lunak. Tujuan dari seri tersebut adalah (1) untuk menciptakan
seperangkat standar yang disepakati secara internasional, (2) untuk menjadi standar yang
dapat disesuaikan untuk skenario organisasi yang beragam dalam mengimplementasikan
kemajuan teknologi saat ini dalam pengembangan perangkat lunak. Standar internasional
ini mencakup berbagai tingkat proses pengujian, serta dokumentasi, teknik tes desain,
pengujian kosakata (vocabulary) dan konsep (Alaqail & Ahmed, 2018).
STANDAR PERLINDUNGAN DATA PRIBADI: ISO 27701
Perlindungan data pribadi, terutama data kesehatan
A.7.2. Conditions for collection and processing
A.7.2.4. Obtain and record consent.
Organisasi harus mendapatkan dan mencatat persetujuan dari prinsipal PII sesuai dengan
proses yang terdokumentasi.
A.7.2.6. Contracts with PII processors.
Organisasi harus memiliki kontrak tertulis dengan prosesor PII yang digunakannya, dan
harus memastikan bahwa kontrak mereka dengan prosesor PII membahas penerapan
kontrol yang sesuai.
A.7.3 Obligations to PII principals
A.7.3.4. Providing mechanisms to modify or withdraw consent.
Organisasi harus menyediakan mekanisme bagi pelaku PII untuk mengubah atau menarik
persetujuan mereka.
A.7.3.5. Providing a mechanism to object to PII processing.
Organisasi harus menyediakan mekanisme bagi para pelaku PII untuk menolak
pemrosesan PII mereka.
A.7.3.6. Access, correction and/or erasure.
Organisasi harus menerapkan kebijakan, prosedur dan/atau mekanisme untuk memenuhi
kewajibannya kepada prinsipal PII untuk mengakses, memperbaiki dan/atau menghapus
PII mereka.
A.7.4 Privacy by design and privacy by default
A.7.4.1. Limit collection.
Organisasi harus membatasi pengumpulan PII seminimal mungkin yang relevan,
proporsional, dan perlu untuk tujuan yang teridentifikasi.
Panduan Sandbox Regulasi Kecerdasan Artifisial 31
The words you are searching are inside this book. To get more targeted content, please make full-text search by clicking here.
Panduan Sandbox_11.06
Discover the best professional documents and content resources in AnyFlip Document Base.
Search
Panduan Sandbox_11.06
- 1 - 40
Pages: