blog.fcuzhhorod.com

(PEMBARUAN Pertama) Badan perlindungan data Italia mengatakan bahwa dengan mengganggu suasana hati pengguna, hal ini ‘dapat meningkatkan risiko bagi individu yang masih dalam tahap perkembangan atau dalam kondisi kerapuhan emosional’

Badan perlindungan data Italia mengatakan pada hari Jumat, 3 Februari, bahwa mereka melarang perusahaan chatbot kecerdasan buatan (AI) Replika menggunakan data pribadi pengguna Italia, dengan alasan risiko terhadap anak di bawah umur dan orang-orang yang rentan secara emosional.

Replika, sebuah startup di San Francisco yang diluncurkan pada tahun 2017, menawarkan kepada pengguna avatar khusus yang dapat berbicara dan mendengarkan mereka.

Ini telah memimpin di antara penutur bahasa Inggris, dan gratis untuk digunakan, meskipun menghasilkan pendapatan bulanan sekitar $2 juta dari penjualan fitur bonus seperti obrolan suara.

‘Teman virtual’ dipasarkan untuk meningkatkan kesejahteraan emosional pengguna.

Namun badan pengawas Italia mengatakan bahwa dengan mengganggu suasana hati pengguna, hal itu dapat “meningkatkan risiko bagi individu yang masih dalam tahap perkembangan atau dalam kondisi emosional yang rapuh.”

Jen Persson, direktur kelompok advokasi privasi anak-anak Defend Digital Me, mengatakan kepada Reuters bahwa alat yang dirancang untuk memengaruhi suasana hati atau kesejahteraan mental anak harus diklasifikasikan sebagai produk kesehatan, dan oleh karena itu tunduk pada standar keselamatan yang ketat.

“Alat-alat ini digunakan oleh anak-anak tanpa banyak pengawasan atau perlindungan dari potensi penyalahgunaan,” katanya.

Regulator Italia menyoroti tidak adanya mekanisme verifikasi usia, seperti filter untuk anak di bawah umur atau perangkat pemblokiran jika pengguna tidak secara eksplisit menyatakan usia mereka.

Replika melanggar peraturan privasi Eropa dan memproses data pribadi secara tidak sah karena tidak dapat didasarkan, bahkan secara implisit, pada kontrak yang tidak dapat ditandatangani oleh anak di bawah umur, kata badan pengawas tersebut.

Replika tidak segera menanggapi email Reuters yang meminta komentar.

Robert Grosvenor, direktur pelaksana di perusahaan konsultan Alvarez & Marsal, mengatakan badan pengawas Italia itu tidak mungkin menjadi satu-satunya regulator Eropa yang mempertimbangkan tindakan terhadap perusahaan seperti Replika.

“Meskipun verifikasi usia dapat memberikan cara untuk melindungi beberapa kelompok yang paling rentan, hal ini tidak mengatasi risiko dan kerugian yang dapat ditimbulkan oleh layanan dan solusi berbasis AI jika tidak diatur, dalam hal potensi bias dan diskriminasi yang tidak diinginkan,” katanya. dikatakan.

Pengembang Replika, perusahaan AS Luka Inc, harus memberi tahu pihak berwenang Italia tentang tindakan yang diambil untuk menerapkan persyaratannya dalam waktu 20 hari dan dapat didenda hingga 20 juta euro ($21,80 juta), atau hingga 4% dari omset tahunan globalnya, kata pernyataan itu. . – Rappler.com