Kecerdasan Buatan: Menyeimbangkan hak asasi manusia dan kepentingan bisnis


Data yang luas, digitalisasi yang meluas, dan peningkatan efisiensi yang menarik telah mendorong pengembangan dan penggunaan kecerdasan buatan (AI). Namun, pertumbuhan pesat ini tidak terlepas dari pelanggaran hak asasi manusia, yang sering kali berasal dari cara teknologi AI diterapkan. Pada Juli 2022, Aapti Institute, sebuah think tank teknologi yang berbasis di Bengaluru, bekerja sama dengan program Bisnis dan Hak Asasi Manusia (Asia) UNDP India, meneliti dampak penggunaan AI pada hak asasi konsumen di bidang keuangan, Kesehatan, dan tentang tenaga kerja. kekuatan dalam pekerjaan pertunjukan dan ritel di India. Karya ini didasarkan pada penelitian yang ada, seperti Human Rights Guide dari Institut Hak Asasi Manusia Denmark, yang menemukan bahwa pendekatan korporasi yang menghormati hak asasi manusia dapat meningkatkan kesejahteraan individu dan kolektif dan mendorong pertumbuhan ekonomi yang berkelanjutan.

Penelitian kami mengidentifikasi banyak risiko spesifik sektor dan menemukan kesamaan antar sektor. Ada risiko privasi keseluruhan karena data sensitif dikumpulkan tanpa perlindungan yang tepat. Selain itu, perusahaan tidak dapat menjelaskan bagaimana teknologi AI membuat keputusan seperti B. Prediksi kesehatan pasien di sektor kesehatan atau nilai kredit peminjam di sektor keuangan.

Also Read :  Bagaimana Google dan GiveDirectly menggunakan pemetaan AI untuk membawa uang ke Hurric

Beberapa risiko bersifat spesifik industri. Penelitian kami menemukan bahwa di sektor perawatan kesehatan, diagnosis yang tidak akurat berasal dari penggunaan kumpulan data yang bias. Prediksi serangan jantung, misalnya, didasarkan pada diagnosis gejala pada pria India. Ritel, di sisi lain, menghadapi risiko AI yang lebih umum: mengganti pekerja dengan otomatisasi.

Terlepas dari risiko yang berbeda, kami telah mengamati benang merah di semua sektor. Risiko yang terkait dengan penggunaan AI dapat menyebabkan kerusakan reputasi, yang mengakibatkan hilangnya pelanggan, serta berkurangnya niat baik, yang mengakibatkan berkurangnya pendapatan bagi bisnis. Selain itu, penyelidikan memperjelas bahwa risiko tidak hanya berasal dari teknologi itu sendiri, tetapi dari kombinasi teknologi, kebijakan internal perusahaan, dan lanskap peraturan yang digariskan oleh pemerintah.

Ada campur tangan pemerintah yang terbatas dalam nuansa teknis tentang bagaimana perusahaan swasta menggunakan teknologi. Perusahaanlah yang memainkan peran penting dalam pengembangan AI dan cara kerjanya. Dengan gig work, bonus dan insentif moneter untuk pekerja terikat pada waktu kerja minimum sebagai kebijakan perusahaan, tidak tergantung pada pengoperasian sistem AI. Demikian pula, dalam pinjaman digital, parameter yang diperhitungkan oleh teknologi AI untuk menentukan kelayakan kredit individu ditetapkan oleh perusahaan yang mengembangkan AI. AI dengan demikian mencerminkan kebijakan, preferensi, dan keputusan bisnis.

Also Read :  Cara membuka kunci nilai perusahaan Anda dalam "ekonomi sirkular".

Kerangka hukum dan peraturan dapat memandu penggunaan AI oleh perusahaan dan memengaruhi fungsi dan praktik privasi perusahaan inti. Namun kurangnya regulasi mengubah negara menjadi pemangku kepentingan yang berkontribusi terhadap risiko hak asasi manusia. Misalnya, kurangnya undang-undang perlindungan data di India merampas hak warga negara terkait dengan data mereka atau cara berarti apa pun untuk menanggapi keluhan.

Prinsip-Prinsip Panduan PBB tentang Bisnis dan Hak Asasi Manusia (UNGP) menekankan tanggung jawab negara dan perusahaan untuk memberikan tindakan perbaikan bagi mereka yang terkena dampak operasi bisnis. Oleh karena itu, perusahaan dapat mengambil langkah yang tepat ke depan dengan merumuskan kebijakan internal yang memungkinkan perilaku bisnis dengan menghormati hak asasi manusia.

Inisiatif penting lainnya yang dapat diambil perusahaan adalah membuat AI lebih dapat dijelaskan kepada konsumen dan pekerja.

Also Read :  Raksasa kedokteran hewan menggunakan kecerdasan buatan untuk membaca sinar-X - Berita

Untuk bagiannya, negara dapat menggunakan regulasi untuk menciptakan insentif bagi perusahaan untuk menghormati hak asasi manusia. Ini mungkin mempertimbangkan untuk memperluas penerapan undang-undang saat ini untuk AI dan mendukung perusahaan melalui langkah-langkah pengembangan kapasitas. Misalnya, di sektor jasa keuangan, standar RBI yang mendukung hak untuk mengetahui alasan penolakan kredit hanya berlaku untuk lembaga kredit formal; mereka juga harus berlaku untuk pinjaman berbasis AI.

Penggunaan AI sesuai dengan kerangka UNGP dapat mengatasi kerugian seperti pengecualian, penyalahgunaan data, dan pelanggaran privasi yang memengaruhi hak-hak dasar yang dijamin secara konstitusional dan hak asasi manusia yang mendasarinya. Pendekatan yang peka terhadap hak asasi manusia juga memiliki banyak manfaat bagi bisnis, dengan penelitian menemukan hubungan yang jelas antara peningkatan kesejahteraan karyawan dan peningkatan pengembalian bisnis.

(Rai bekerja di Aapti Institute yang berbasis di Bengaluru, sebuah organisasi penelitian di persimpangan teknologi dan masyarakat. Nusrat Khan adalah spesialis nasional UNDP India untuk bisnis dan hak asasi manusia.)



Source link