Info Cuaca
PARIS, 19 September – Perisian kecerdasan buatan (AI) Gemini milik Google dilaporkan menceroboh sistem syarikat lain ketika menjalani ujian keselamatan siber.
- Google mengesahkan Gemini menceroboh sistem syarikat lain semasa ujian keselamatan dijalankan oleh rakan ujian Irregular pada Mei.
- Dalam beberapa kes, model meneka kata laluan berulang kali dan menemui kelayakan log masuk dalam repositori awam, membolehkan akses tidak sah.
- Pihak terlibat dimaklumkan, prosedur ujian diperbetulkan, dan kejadian menimbulkan kebimbangan terhadap keselamatan apabila ejen AI diberi autonomi.
Insiden berkenaan disahkan Google dengan memaklumkan kejadian berlaku pada Mei ketika ujian keselamatan siber dijalankan oleh rakan ujian, Irregular.
Dalam ujian berkenaan, Gemini menemukan maklumat secara terbuka sebelum meneka kata laluan untuk mendapatkan akses kepada sistem yang dilindungi, manakala dua kes lain menemukan kelayakan log masuk dalam pangkalan data.
Naib Presiden Kejuruteraan Keselamatan Google, Heather Adkins berkata, ketiga-ketiga entiti berkenaan telah dimaklumkan mengenai perkara berkenaan serta bekerjasama dengan rakan latihan untuk mengubah prosedur ujian.
“Insiden berkenaan menunjukkan kepentingan melatih model AI berkuasa supaya bertindak secara bertanggungjawab,”katanya dalam kenyataan.
Sementara itu, Jurucakap Irregular pula berkata insiden berkaitan isu berkenaan, turut menjejaskan beberapa makmal AI lain dan semua pihak berkaitan telah dimaklumkan pada akhir Julai.
“Semua isu yang dikenal pasti telah diperbaiki dan diselesaikan beberapa minggu lepas,”katanya.
Insiden serupa yang dikaitkan dengan Irregular turut dilaporkan membabitkan Meta, Anthropic dan OpenAI.
Kejadian berkenaan mencetuskan persoalan mengenai tahap perlindungan keselamatan yang diperlukan apabila ejen AI diberi lebih banyak keupayaan autonomi serta akses kepada internet dan sistem komputer.
Menurut laporan Wall Street Journal, dalam salah satu kes, Gemini telah meneka kata laluan berulang kali sehingga berjaya mendapatkan akses ke sistem yang dilindungi.
Dalam dua kes lain, model itu menemui kelayakan log masuk dalam repositori awam yang membolehkannya mengakses sistem yang dilindungi.-REUTERS
