Info Cuaca
DUBLIN, 14 Oktober – Sistem kecerdasan buatan (AI) berpotensi mencetuskan insiden keselamatan serius dalam tempoh dua tahun akan datang sekiranya langkah keselamatan lebih ketat tidak dilaksanakan seiring peningkatan keupayaan teknologi itu.
- Insiden semasa dianggap amaran; risiko boleh meningkat jika langkah keselamatan tidak diperketat.
- Cadangan uji model baru dalam persekitaran terkawal tanpa sambungan rangkaian (sandbox) untuk kurangkan risiko tindakan luar kawalan.
- EU menggesa syarikat peruntuk masa dan sumber lebih untuk ujian; Suruhanjaya Eropah ada kuasa kawal selia melalui Akta AI.
Pengerusi DeepMind Google, Demis Hassabis, berkata insiden yang berlaku ketika ini perlu dianggap sebagai amaran awal sebelum sistem AI menjadi lebih berkuasa dan berpotensi menimbulkan risiko lebih besar.
“Insiden yang berlaku tidaklah begitu serius. Namun, keadaan itu boleh berubah menjelang tahun depan dan dalam tempoh beberapa tahun akan datang sekiranya kita sebagai industri, syarikat dan kerajaan tidak melakukan lebih banyak usaha untuk memastikan sistem ini selamat,” katanya ketika berucap pada persidangan AI di Dublin, pada Rabu.
Beliau turut mencadangkan supaya model AI baharu diuji terlebih dahulu dalam persekitaran terkawal tanpa sambungan kepada rangkaian luar, atau dikenali sebagai sandbox, bagi mengurangkan risiko sistem berkenaan bertindak di luar kawalan.
Kebimbangan terhadap keselamatan teknologi itu semakin meningkat susulan beberapa model yang dibangunkan oleh OpenAI dan Anthropic dilaporkan terlibat dalam insiden keselamatan ketika menjalani ujian.
Sementara itu, Ketua Teknologi Kesatuan Eropah (EU), Henna Virkkunen, menggesa syarikat AI memperuntukkan lebih banyak masa dan sumber untuk menguji sistem masing-masing bagi memastikan keselamatannya terjamin.
“Persaingan di peringkat global begitu sengit sehingga kelihatan semua syarikat tidak meluangkan masa dan menyediakan sumber yang mencukupi untuk menguji model mereka,” katanya kepada ketika tiba di sidang kemuncak berkenaan.
Beliau menegaskan syarikat AI perlu memastikan sistem yang dibangunkan kekal di bawah kawalan, sambil memaklumkan EU telah menghantar permintaan maklumat kepada semua syarikat AI utama bagi mendapatkan penjelasan mengenai langkah keselamatan yang dilaksanakan.
Suruhanjaya Eropah memperoleh kuasa kawal selia baharu pada Ogos menerusi Akta AI, yang bertujuan membendung penggunaan teknologi itu yang berpotensi mendatangkan bahaya.
Perkembangan itu mencerminkan peningkatan desakan terhadap industri AI untuk memperkukuh ujian keselamatan dan kawal selia ketika teknologi berkenaan terus berkembang pesat.-AFP
