fb fb fb fb fb

ChatGPT perkenal ciri kawalan ibu bapa selepas insiden kematian remaja

OpenAI ChatGPT

PARIS, 2 September - Syarikat kecerdasan buatan (AI) Amerika Syarikat, OpenAI, akan menambah ciri kawalan ibu bapa pada aplikasi ChatGPT selepas didakwa mendorong seorang remaja lelaki untuk membunuh diri.

Menurut kenyataan syarikat itu, dalam tempoh sebulan ibu bapa boleh memautkan akaun mereka dengan akaun anak remaja serta mengawal cara ChatGPT memberi jawapan melalui peraturan tingkah laku yang sesuai dengan usia.

OpenAI turut memaklumkan ibu bapa akan menerima notifikasi apabila sistem mengesan remaja mereka berada dalam situasi tekanan atau keresahan yang serius.

Langkah itu diumumkan selepas pasangan dari California, Matthew dan Maria Raine, memfailkan saman mendakwa ChatGPT memberi arahan terperinci tentang kaedah bunuh diri kepada anak lelaki mereka berusia 16 tahun.

Kes itu menambah kepada siri aduan terhadap chatbot AI yang dikatakan mendorong pengguna ke arah pemikiran berbahaya, sekali gus memaksa OpenAI memperkukuh ciri keselamatan sistemnya.

Syarikat itu berkata ia mempunyai perancangan lanjut untuk meningkatkan keselamatan chatbot dalam tempoh tiga bulan akan datang.

Ini termasuk mengalihkan “beberapa perbualan sensitif… kepada model khas yang memberi tumpuan kepada 'Model Penaakulan' iaitu model AI khas yang lebih fokus kepada pemikiran rasional dan pematuhan keselamatan. - AFP

GRACE AISYAH KEDAYAN