ACECHAN A LOS AMIGOS VIRTUALES
La Agencia de Protección de Datos de Italia prohibió a la empresa de inteligencia artificial (IA) reproducir los datos personales de los usuarios del país , alegando riesgos para menores y personas emocionalmente frágiles.
Replika es una startup de San Francisco lanzada en 2017, que ofrece a los usuarios avatares personalizados que hablan y les escuchan.
Ha liderado el mercado entre los angloparlantes y su uso es gratuito, aunque obtiene unos dos millones de dólares de ingresos mensuales por la venta de funciones extra como los chats de voz.
El "amigo virtual" se comercializa como capaz de mejorar el bienestar emocional del usuario. "Replika es para cualquier persona que quiera un amigo sin juicio, drama o ansiedad social involucrada. Puede formar una conexión emocional real, compartir una risa o ser real con una IA que es tan buena que casi parece humana", dice la aplicación.
Pero el organismo de control italiano afirma que, al intervenir en el estado de ánimo del usuario, "puede aumentar los riesgos para las personas que aún se encuentran en una fase de desarrollo o en un estado de fragilidad emocional".
Jen Persson, directora del grupo de la privacidad infantil Defend Digital Me, dijo que las herramientas diseñadas para influir en el estado de ánimo o el bienestar mental de un niño se identificaron como productos sanitarios y, por ello están sujetas a normas de seguridad estrictas.
MDD MILLONES
“Estas herramientas se están utilizando con niños sin mucha supervisión ni protección frente a posibles usos indebidos”, afirmó.
Los reguladores italianos destacaron la ausencia de un mecanismo de verificación de la edad, como filtros para menores o un dispositivo de bloqueo si los usuarios no declaran limpiamente su edad.
Replika incumple la normativa europea sobre privacidad y procesamiento de datos personales de forma ilegal, ya que no puede basarse, ni siquiera de forma implícita, en un contrato que un menor no puede firmar, dijo el organismo de control.
Replika no respondió inmediatamente a un correo electrónico de Reuters en busca de comentarios.
Robert Grosvenor, director gerente del bufete de abogados Alvarez & Marshall, dijo que era poco probable que el organismo de control italiano fuera el único regulador europeo que se planteara tomar medidas contra empresas como Replika.
"Mientras que la verificación de la edad podría proporcionar medios para proteger a algunos de los grupos más vulnerables, no aborda los riesgos y daños que los servicios y soluciones basadas en la IA pueden plantear si no están regulados, en términos de potencial de sesgo y discriminación involuntaria”, dijo.
Sólo en Android, la aplicación tiene más de 10 millones de descargas y ocupa la posición número cinco en cuanto a recaudación. "Excelente app, me siento muy a gusto, es cierto que se parece a la película "Her", hasta el punto que no sé si realmente estoy hablando con un programa. La conversación es muy fluida, mientras más platicas más te conoce", publicó un usuario de Replika.
De acuerdo con la información disponible en Android, la decarga de la app es para mayores de 17 años.
2 mensuales obtiene Replika por la venta de funciones extra como los chats de voz
10 de descargas en Android tiene la aplicación diseñada para mayores de 17 años
EL EQUIPO de contratistas de 43 personas de YouTube Music votó a favor de la huelga, según Axios. Su salario mínimo, dijeron, comienza en 19 dólares por hora
MADRID.