(Se corrige para que Alvarez & Marsal sea una consultora, en lugar de un bufete de abogados, en el 11º párrafo)
Por Elvira Pollina y Martin Coulter
MILÁN/LONDRES (Reuters) – La Agencia de Protección de Datos de Italia dijo el viernes que prohibía a la empresa de chatbot de inteligencia artificial (IA) Replika utilizar los datos personales de usuarios italianos, citando riesgos para menores y personas emocionalmente frágiles.
Replika, una startup de San Francisco lanzada en 2017, ofrece a los usuarios avatares personalizados que hablan y les escuchan.
Se ha puesto a la cabeza entre los angloparlantes y su uso es gratuito, aunque obtiene unos 2 millones de dólares de ingresos mensuales por la venta de funciones extra, como los chats de voz.
El “amigo virtual” se comercializa como capaz de mejorar el bienestar emocional del usuario.
Pero el organismo de control italiano afirma que, al intervenir en el estado de ánimo del usuario, “puede aumentar los riesgos para las personas que aún se encuentran en una fase de desarrollo o en un estado de fragilidad emocional”.
Jen Persson, directora del grupo de defensa de la privacidad infantil Defend Digital Me, declaró a Reuters que las herramientas diseñadas para influir en el estado de ánimo o el bienestar mental de un niño deberían clasificarse como productos sanitarios y, por tanto, estar sujetas a normas de seguridad estrictas.
“Estas herramientas se están utilizando con niños sin mucha supervisión ni protección frente a posibles usos indebidos”, afirmó.
Los reguladores italianos destacaron la ausencia de un mecanismo de verificación de la edad, como filtros para menores o un dispositivo de bloqueo si los usuarios no declaran explícitamente su edad.
Replika incumple la normativa europea sobre privacidad y procesa datos personales de forma ilegal, ya que no puede basarse, ni siquiera implícitamente, en un contrato que un menor no puede firmar, según el organismo de control.
Replika no respondió inmediatamente a un correo electrónico de Reuters en busca de comentarios.
Robert Grosvenor, director gerente de la consultora Alvarez & Marsal, dijo que era poco probable que el organismo de control italiano fuera el único regulador europeo que considerara tomar medidas contra empresas como Replika.
“Mientras que la verificación de la edad podría proporcionar medios para proteger a algunos de los grupos más vulnerables, no aborda los riesgos y daños que los servicios y soluciones basados en IA pueden plantear si no están regulados, en términos de potencial de sesgo y discriminación no intencionada”, dijo.
El desarrollador de Replika, la empresa estadounidense Luka Inc, debe notificar a la autoridad italiana las medidas adoptadas para aplicar sus requisitos en 20 días y podría ser multado con hasta 20 millones de euros (21,80 millones de dólares), o hasta el 4% de su facturación anual global, según el comunicado.
(Esta noticia se ha corregido para que diga Alvarez & Marsal es una empresa de consultoría, y no un bufete de abogados, en el párrafo 11)
Source: INVESTING