SAN FRANCISCO, 29 Oktober - lebih sejuta orang yang menggunakan chatbot AI telah menunjukkan kecenderungan untuk membunuh diri, menurut data daripada OpenAI yang membangunkan ChatGPT.
Dalam catatan blog yang diterbitkan pada Isnin, syarikat AI itu menganggarkan bahawa kira-kira 0.15% pengguna mempunyai "perbualan yang merangkumi petunjuk jelas tentang perancangan atau niat membunuh diri."
OpenAI melaporkan lebih 800 juta orang menggunakan ChatGPT setiap minggu dan peratusan tersebut merujuk kepada kira-kira 1.2 juta orang.
Syarikat itu juga menganggarkan bahawa kira-kira 0.07% pengguna mingguan aktif menunjukkan kemungkinan tanda-tanda kecemasan kesihatan mental yang berkaitan dengan psikosis atau mania, atau kira-kira 600,000 orang.
Isu itu mendapat perhatian selepas remaja California, Adam Raine meninggal dunia akibat bunuh diri, awal tahun ini.
Ibu bapanya memfailkan tuntutan mahkamah mendakwa ChatGPT memberinya panduan khusus tentang cara membunuh diri.
Sejak itu, OpenAI telah meningkatkan kawalan ibu bapa untuk ChatGPT dan memperkenalkan beberapa kaedah sekatan lain, termasuk akses yang diperluas kepada talian penting krisis, penghalaan semula automatik perbualan sensitif kepada model yang lebih selamat dan peringatan mesra untuk pengguna berehat semasa sesi lanjutan.
OpenAI juga memaklumkan telah mengemas kini chatbot ChatGPTnya untuk lebih mengenali dan bertindak balas kepada pengguna yang mengalami kecemasan kesihatan mental, dan sedang bekerjasama dengan lebih 170 profesional kesihatan mental untuk mengurangkan respons tidak wajar dengan ketara. -AFP