Jakarta, IDN Times - Gubernur California, Amerika Serikat, Gavin Newsom pada Minggu (29/9/2024) menolak rancangan undang-undang (RUU) keamanan kecerdasan buatan (AI) yang kontroversial. RUU SB 1047 ini sebelumnya telah disetujui oleh legislatif California dan akan mewajibkan perusahaan teknologi besar untuk menguji keamanan AI generatif sebelum dirilis ke publik.
Keputusan ini mengejutkan banyak pihak, mengingat RUU tersebut dianggap berpotensi menjadi inspirasi undang-undang AI nasional di Amerika Serikat (AS). California sendiri dikenal sebagai pusat inovasi AI, dengan 32 dari 50 perusahaan AI terkemuka di dunia bermarkas di negara bagian tersebut.
Newsom menyatakan bahwa meskipun RUU tersebut bermaksud baik, namun terlalu ketat dan berpotensi mengusir perusahaan-perusahaan AI dari California.
"Saya tidak percaya ini adalah pendekatan terbaik untuk melindungi publik dari ancaman nyata yang ditimbulkan oleh teknologi ini," ujar Newsom, dilansir dari The Guardian.
1. RUU wajibkan perusahaan AI pasang tombol darurat
RUU SB 1047 rencananya menargetkan perusahaan yang mengembangkan model AI dengan biaya lebih dari 100 juta dolar AS (sekitar Rp1,5 triliun). Persyaratan utama RUU ini meliputi implementasi tombol darurat untuk AI serta publikasi rencana pengujian dan mitigasi risiko ekstrem.
Dilansir dari New York Times, RUU ini juga akan memberikan hak kepada jaksa agung negara bagian untuk menuntut perusahaan atas kerugian serius yang disebabkan oleh teknologi mereka, seperti kematian atau kerusakan properti.
"Veto ini menghadapkan kita dengan realitas yang meresahkan bahwa perusahaan-perusahaan yang bertujuan menciptakan teknologi yang sangat kuat tidak menghadapi batasan yang mengikat dari pembuat kebijakan AS," tutur Senator negara bagian Scott Wiener, penulis RUU, dikutip dari NPR.
Wiener menambahkan bahwa veto tersebut semakin mengkhawatirkan karena Kongres AS terus gagal membuat aturan yang efektif untuk mengawasi industri teknologi.
2. RUU dinilai terlalu ketat bahkan untuk penggunaan dasar
Newsom berpendapat bahwa RUU tersebut tidak memperhitungkan apakah sistem AI digunakan dalam lingkungan berisiko tinggi, melibatkan pengambilan keputusan kritis, atau penggunaan data sensitif.
"RUU ini menerapkan standar yang ketat bahkan untuk fungsi-fungsi paling dasar selama sistem besar yang menerapkannya," kata Newsom, dilansir dari The New York Times.
Sebagai alternatif, Newsom telah meminta para ahli terkemuka untuk membantu mengembangkan aturan yang lebih empiris untuk menjaga perkembangan AI. Gubernur California itu juga memerintahkan lembaga-lembaga negara bagian untuk memperluas penilaian mereka terhadap risiko bencana yang terkait dengan penggunaan AI.
3. Pro-kontra RUU AI California
RUU SB 1047 menuai pro dan kontra dari berbagai pihak. Perusahaan AI besar seperti OpenAI, Google, Meta, dan Microsoft sempat menentang RUU tersebut, dengan alasan dapat menghambat inovasi dan merugikan AS dalam perlombaan global untuk mendominasi AI.
Di sisi lain, beberapa tokoh teknologi, termasuk Elon Musk, memberikan dukungan terbatas untuk RUU tersebut. Musk menyatakan di platform X miliknya bahwa meskipun ini adalah keputusan sulit, ia mendukung RUU tersebut karena potensi risiko teknologi ini terhadap publik.
RUU ini juga mendapat dukungan dari sekelompok artis Hollywood. Sebanyak 120 aktor dan selebriti, termasuk Joseph Gordon-Levitt, Mark Ruffalo, Jane Fonda, dan Shonda Rhimes, menandatangani surat kepada Newsom, memintanya untuk menandatangani RUU tersebut.
Sementara itu, 50 akademisi mengirim surat kepada Newsom dan menilai RUU tersebut sebagai tindakan masuk akal untuk mencegah penerapan model AI yang tidak aman. Namun, beberapa anggota Kongres dari California, termasuk Nancy Pelosi, justru menyuarakan penentangan terhadap RUU tersebut.
Meskipun California gagal mengesahkan RUU ini, beberapa negara bagian lain seperti Colorado dan Utah telah mengesahkan undang-undang yang lebih sempit terkait AI. Sementara itu, Kongres AS sendiri belum mengajukan satu pun undang-undang federal untuk melindungi masyarakat dari potensi bahaya AI.
Baca Juga: BigAssistant, BigBox Solusi Chatbot AI Ciptakan Interaksi Cerdas dan Efisien
