New York larang chatbot AI berperanan jadi teman maya kanak-kanak

NEW YORK, 29 Oktober – New York meluluskan undang-undang baharu yang melarang golongan bawah umur menggunakan chatbot kecerdasan buatan (AI) yang berperanan sebagai teman maya.

Langkah itu merupakan antara usaha paling menyeluruh setakat ini untuk memperketat kawal selia teknologi berkenaan.

Gabenor New York, Kathy Hochul, menandatangani undang-undang itu pada Rabu, yang mewajibkan pengendali chatbot, termasuk ChatGPT kendalian OpenAI, mengesahkan umur pengguna dan mengehadkan ciri tertentu bagi mereka yang berusia bawah 18 tahun.

Bawah undang-undang itu, chatbot yang digunakan oleh golongan bawah umur dilarang menghasilkan kandungan yang boleh menyebabkan pengguna percaya bahawa sistem berkenaan adalah manusia, makhluk hidup atau mempunyai emosi seperti manusia.

Chatbot turut dilarang menghasilkan respons yang boleh membuatkan pengguna menganggapnya mempunyai hubungan peribadi atau profesional dengan mereka, atau berperanan sebagai pihak berkuasa.

Sistem itu juga tidak boleh menyampaikan kandungan seolah-olah ia merupakan pendapat peribadinya.

“Golongan bawah umur tidak lagi boleh mengakses chatbot yang berpura-pura menjadi rakan, teman lelaki atau teman wanita mereka,” kata Hochul ketika majlis menandatangani undang-undang itu.

Beliau turut menegaskan bahawa chatbot tidak lagi dibenarkan menyimpan maklumat sensitif berkaitan kesihatan emosi dan fizikal golongan bawah umur.

Beberapa negeri lain di Amerika Syarikat (AS), termasuk California, turut meluluskan undang-undang untuk mengehadkan penggunaan chatbot.

Namun, undang-undang New York menggunakan peruntukan yang lebih luas, sekali gus mencetuskan bantahan daripada industri AI.

Kumpulan advokasi industri teknologi New York, Tech:NYC, mengkritik penggunaan bahasa yang disifatkannya sebagai kabur dalam undang-undang itu.

Dalam kenyataannya, kumpulan itu berkata usaha melindungi kanak-kanak di internet tidak seharusnya menghalang mereka daripada menggunakan teknologi yang membantu pembelajaran dan persediaan kerjaya.

Sementara itu, organisasi bukan berasaskan keuntungan Common Sense Media menyambut baik kelulusan undang-undang berkenaan dan menyifatkannya sebagai perundangan keselamatan AI untuk kanak-kanak paling tegas di AS.

Ketua Pegawai Eksekutifnya, Jim Steyer, berkata sesetengah ciri chatbot AI boleh membahayakan golongan kanak-kanak dan remaja, justeru langkah itu penting untuk melarang ciri yang berisiko.

OpenAI dan Anthropic tidak memberikan maklum balas kepada permintaan AFP untuk mengulas undang-undang berkenaan. – AFP