Periset memperingatkan: AI dapat dengan cepat mengembangkan senjata kimia yang mematikan


Banyak diskusi publik tentang bahaya AI berkisar pada “pengambilalihan” AI. Itu bukan risiko serius yang kita hadapi

Bahaya kecerdasan buatan (AI) yang kabur terkadang disalahartikan. Versi sci-fi adalah bahwa AI memutuskan untuk menyimpang dari manusia biasa, seperti HAL 9000 yang legendaris pada tahun 2001: A Space Odyssey: (1968).

Ancaman yang lebih mungkin datang dari aktor jahat yang menggunakan daya komputasi besar untuk menyebabkan kerusakan yang tidak dapat mereka tangani sendiri. Berikut adalah contoh yang serius:

Butuh AI yang mengembangkan obat kurang dari enam jam untuk menemukan 40.000 molekul yang berpotensi mematikan. Para peneliti menempatkan AI, yang biasanya digunakan untuk mencari obat-obatan yang bermanfaat, dalam semacam mode “aktor jahat” untuk menunjukkan betapa mudahnya disalahgunakan pada konferensi pengendalian senjata biologis.

Yang harus dilakukan para peneliti hanyalah mengubah metodologi mereka untuk mencari toksisitas alih-alih menyingkirkannya. AI telah mengembangkan puluhan ribu zat baru, beberapa di antaranya menyerupai VX, agen saraf paling kuat yang pernah dibuat. Terkejut, mereka menerbitkan temuan mereka di jurnal bulan ini

Kecerdasan Mesin Alam. Justin Calma“AI mengusulkan 40.000 kemungkinan senjata kimia baru hanya dalam enam jam”. Tepi (17 Maret 2022) Makalah ini dapat diakses secara bebas.

Kapan Tepi Diwawancarai oleh penulis utama surat kabar itu, Fabio Urbina, dia berkomentar:

Bagi saya, kekhawatirannya adalah betapa mudahnya melakukannya. Banyak hal yang kami gunakan gratis di luar sana. Anda dapat mengunduh kumpulan data toksisitas dari mana saja. Jika Anda memiliki seseorang yang tahu cara membuat kode dengan Python dan memiliki beberapa keterampilan pembelajaran mesin, mereka dapat membangun sesuatu seperti model generatif ini yang didukung oleh kumpulan data beracun selama akhir pekan yang mungkin bagus. Jadi itulah yang membuat kami benar-benar berpikir untuk mengeluarkan makalah ini; itu adalah penghalang masuk yang rendah untuk jenis pelecehan ini.

Kecerdasan Mesin Alam. Justin Calma“AI mengusulkan 40.000 kemungkinan senjata kimia baru hanya dalam enam jam”. Tepi (17 Maret 2022) Makalah ini dapat diakses secara bebas.

AI telah mengembangkan zat yang mirip dengan VX, agen saraf paling ampuh yang diketahui:

Tidak akan mudah untuk menjaga tutupnya tetap terbuka. Tapi mungkin kita bisa mulai dengan menyadari bahwa oranglah yang memberikan motivasi. AI tidak mengambil alih. Itu hanya membantu mereka melakukan apa yang ingin mereka lakukan lebih cepat.


Anda mungkin juga ingin membaca: AI tidak mengambil pekerjaan kita dari kita – karena tidak bisa melakukannya. Profesor ilmu komputer Robert J. Marks berbicara dengan pembawa acara talk show KSCJ Mark Hahn tentang HAL 9000 dan kemungkinan serta keterbatasan mendasar AI. Perbedaan utama antara manusia dan AI adalah bahwa manusia dapat menangani informasi baru. AI hanya dapat menangani informasi yang diprogram untuknya.






Source link

Also Read :  Cara mendekorasi rumah Anda dengan anggaran terbatas, menurut desainer interior