Akankah Undang-Undang Kecerdasan Buatan melindungi hak-hak orang Eropa?


Kecerdasan buatan menjanjikan untuk mendorong pengembangan dan meningkatkan efisiensi di berbagai bidang dan kegiatan sosial. Namun, dengan kekuatan besar datang tanggung jawab besar: dalam hal ini, tanggung jawab untuk mengurangi risiko bagi individu dan masyarakat.

Undang-undang AI yang diusulkan Komisi Eropa, kerangka hukum komprehensif pertama di dunia untuk teknologi, mengklasifikasikan aplikasi AI berdasarkan risiko dan mengaturnya sesuai dengan itu, dengan fokus pada dampak pada keamanan dan hak-hak dasar manusia.

Peraturan baru ini berlaku untuk sistem AI berisiko tinggi dalam produk yang sudah diatur seperti mobil dan perangkat medis, dan yang digunakan di area tertentu seperti identifikasi biometrik dan pendidikan. Beberapa aplikasi AI yang dianggap berisiko “tidak dapat diterima” akan dilarang, seperti sistem kredit sosial yang digunakan di China, tetapi aplikasi berisiko rendah tetap tidak diatur.

Negosiasi yang sulit diharapkan di Parlemen dan Dewan Eropa karena anggota parlemen harus mencapai keseimbangan antara mendukung inovasi dan melindungi hak-hak Eropa.

“Tidak” untuk pemantauan invasif

Salah satu pertanyaan kuncinya adalah bagaimana mengatur penggunaan AI untuk memantau orang. Di Parlemen Eropa, Komite Kebebasan Sipil, Keadilan dan Urusan Dalam Negeri (LIBE) dan Komite Pasar Internal dan Perlindungan Konsumen (IMCO) telah memimpin pekerjaan untuk mengubah proposal Komisi untuk memastikan bahwa orang Eropa dilindungi dari risiko privasi ancaman dan kebebasan berbicara. Dalam draf laporan yang diterbitkan pada akhir April, rekan pelapor Brando Benifei (IT, S&D) dan Dragoş Tudorache (RO, RE) mengusulkan regulasi yang lebih ketat untuk AI berisiko.

Beberapa aplikasi AI yang dianggap berisiko “tidak dapat diterima” akan dilarang, seperti sistem kredit sosial yang digunakan di China, tetapi aplikasi berisiko rendah tetap tidak diatur.

Sementara sebagian besar anggota parlemen setuju tentang perlunya perlindungan yang lebih baik terhadap pengawasan dan privasi, beberapa faksi berpendapat bahwa aplikasi AI berisiko tinggi di bidang ini harus dilarang langsung.

Also Read :  Top 5 stories of the week: DALL-E uses, Nvidia's digital twins, Microsoft's AI inference, Intel detects deepfakes

Anggota parlemen mengatakan mereka ingin memperpanjang larangan sistem identifikasi biometrik jarak jauh di ruang publik. Sosialis, Liberal, Hijau dan beberapa Konservatif berpendapat bahwa sistem yang melacak dan mengkategorikan orang terlalu mengganggu dan membawa risiko penyalahgunaan yang tidak dapat diterima. Benifei selalu menganjurkan larangan total.

S&D dan Greens juga ingin melarang teknologi pendeteksi emosi – yang mengklaim dapat mendeteksi perasaan orang – karena berpotensi mengganggu kebebasan berekspresi. Sementara Sosialis ingin memastikan bahwa AI tidak dapat digunakan untuk memantau orang di tempat kerja tanpa persetujuan pekerja, Partai Hijau berpendapat bahwa pemantauan terus-menerus terhadap pekerja harus dilarang.

Namun, Tudorache dan beberapa anggota parlemen Konservatif telah memperingatkan bahwa daftar praktik terlarang dalam undang-undang tidak boleh terlalu panjang.

respon masyarakat sipil

Rancangan laporan dan amandemen DPR mencerminkan seruan dari sejumlah organisasi masyarakat sipil untuk perlindungan yang lebih baik atas hak-hak dasar. Para co-pelapor memperkenalkan penilaian dampak pada hak-hak dasar, elemen penting yang menurut sebagian besar kelompok politik hilang dari proposal Komisi. Benifei berpendapat bahwa pengguna sistem AI yang berisiko tinggi perlu menilai risiko yang mereka timbulkan terhadap hak-hak dasar dan merencanakan cara untuk menguranginya.

Akademisi, termasuk sekelompok peneliti dari University of Cambridge, juga menekankan bahwa peraturan tersebut harus memerlukan penilaian yang lebih besar terhadap bahaya sosial yang lebih luas.

Also Read :  Bisakah kecerdasan buatan (AI) menjadi Andy Warhol berikutnya?

Kelompok masyarakat sipil menyambut baik bahwa draf laporan memperluas daftar aplikasi berisiko tinggi untuk memasukkan sistem AI yang dirancang untuk berinteraksi dengan anak-anak atau memengaruhi proses demokrasi. Mereka juga menyambut baik larangan sistem untuk memprediksi aktivitas kriminal di masa depan dengan alasan bahwa mereka merusak asas praduga tak bersalah dan dapat disalahgunakan. Hijau telah mengatasi sebagian besar masalah ini dalam amandemen, termasuk kemungkinan Komisi untuk memperbarui kategori risiko secara teratur.

“Adalah positif bahwa amandemen telah diajukan untuk melarang kasus penggunaan yang berbahaya, mengharuskan mereka yang menggunakan AI berisiko untuk melakukan langkah-langkah akuntabilitas seperti penilaian dampak hak-hak dasar, dan memungkinkan mereka yang terkena dampak untuk mengeluh ketika hak mereka dilanggar,” kata Sarah Chander, Penasihat Kebijakan Senior di European Digital Rights (EDRi). Majalah Parlemen dalam sebuah opini.

Namun, beberapa Negara Anggota, termasuk Belanda, Finlandia dan Denmark, telah menyatakan bahwa kategori berisiko tinggi terlalu luas. Oleh karena itu, Kepresidenan Ceko mengusulkan untuk menghapus beberapa aplikasi AI dari kategori berisiko tinggi, termasuk kategorisasi biometrik.

Perlindungan versus inovasi

Sementara beberapa anggota parlemen dan kelompok melihat undang-undang AI sebagai peluang untuk menunjukkan apa yang AI tidak diinginkan, pejabat industri teknologi dan politisi pro-bisnis telah memperingatkan bahwa peraturan yang keras dapat menghambat inovasi. Asosiasi Industri Komputer & Komunikasi (CCIA) telah mengkritik bahwa beberapa anggota parlemen menyerukan audit pihak ketiga wajib sebelum AI yang berisiko dapat dibawa ke pasar UE.

Also Read :  Platform kecerdasan keputusan yang diberdayakan AI TCS mengubah data menjadi tindakan cerdas

“Hambatan birokrasi seperti itu akan secara signifikan menunda banyak aplikasi AI dan mencegahnya memberi manfaat bagi orang Eropa,” kata Christian Borggreen, kepala CCIA Eropa. Majalah Parlemen dalam sebuah pernyataan, menambahkan bahwa UE juga harus membatasi praktik AI yang dilarang untuk kasus-kasus ekstrem yang jelas-jelas melanggar prinsip-prinsip dan hak-hak dasar UE.

“Hambatan birokrasi seperti itu akan secara signifikan menunda banyak aplikasi AI dan mencegahnya memberi manfaat bagi orang Eropa.”

Beberapa Negara Anggota juga telah menyampaikan kekhawatiran bahwa peraturan tersebut dapat mencakup sistem AI yang tidak menimbulkan risiko serius melanggar hak-hak dasar. Kepresidenan Ceko telah mengusulkan bahwa AI hanya dapat diklasifikasikan sebagai berisiko tinggi jika segera efektif tanpa verifikasi manusia atau jika hasilnya memainkan peran penting dalam pengambilan keputusan manusia. Anggota parlemen konservatif juga menekankan bahwa undang-undang harus menciptakan lingkungan yang tepat untuk pengembangan dan penyebaran AI di Eropa.

Menurut Chander, prioritas undang-undang tersebut adalah memastikan bahwa inovasi dalam AI benar-benar bermanfaat bagi orang dan masyarakat, dan bukan hanya perusahaan teknologi. “Hak asasi manusia kita tidak boleh disubordinasikan pada inovasi yang menakut-nakuti,” katanya.

Meskipun ada masalah, para wakil legislator telah menetapkan jadwal yang ambisius untuk diri mereka sendiri. Jika komite terkemuka Parlemen menyampaikan pendapat mereka pada akhir Oktober, seperti yang direncanakan, pemungutan suara dalam pleno akan menyusul pada bulan November. Di Dewan, Kepresidenan Ceko bertujuan untuk pendekatan umum pada akhir tahun 2022 untuk membuka jalan bagi negosiasi antarlembaga.



Source link