Alexa, el asistente de Amazon, grabó un diálogo por su cuenta y lo remitió
El altavoz Echo registró una conversación de una pareja y la envió a un contacto
Los vaticinios se han hecho realidad: la inteligencia artificial ha tomado vida propia y ha decidido por sí misma grabar conversaciones privadas y enviarlas a un contacto al azar. Ha ocurrido en Portland (Estados Unidos), donde una pareja acusa a Alexa, el asistente de voz de Amazon, de grabarles una conversación doméstica y enviarla a una de las personas que aparecían en su agenda sin su permiso y sin que se percataran de ello.
La pareja disponía de altavoces Echo y de bombillas inteligentes en todas las habitaciones de la casa, confiados en que ello no afectaba a su privacidad porque, según Amazon, los dispositivos no graban ni actúan mientras no reciben la orden del usuario precedida de la palabra “Alexa”. Pero descubrieron que no es así cuando ella recibió la llamada de una de las compañeras de trabajo de su esposo instándola a desconectar todos los dispositivos Alexa de inmediato porque alguien les estaba pirateando. La afectada –Danielle– declaró a Kiro TV de Seattle que inicialmente no creyó lo que le decían, hasta que la interlocutora dijo que sabía que habían estado hablando de suelos de madera y comprendió que esa persona había escuchado toda su conversación.
Amazon ha admitido los hechos y ha confirmado que el audio fue enviado, aunque se ha apresurado a reiterar que los dispositivos Echo no graban constantemente y lo ocurrido era fruto de una cadena imprevisible de contratiempos que habían hecho que ocurriese algo con unas posibilidades remotas de producirse.
Según la explicación de Amazon, “Echo se despertó debido a una palabra en una conversación de fondo que sonaba como ‘Alexa’; luego, la conversación posterior la interpretó como una solicitud de ‘enviar mensaje’; en ese momento Alexa dijo en voz alta ‘¿a quién?’ e interpretó algo de la conversación de fondo como un nombre de la lista de contactos del cliente; después preguntó en voz alta ‘[nombre de contacto] ¿verdad?’, y de nuevo entendió algo de la conversación como la palabra ‘correcto’”. La empresa asegura también que a pesar de lo difícil que es que se vuelva a producir una cadena de hechos así “estamos tomando medidas para que sea aún menos probable” y este caso no se repita en el futuro.
Aunque Amazon niega que Alexa esté siempre activada, a la escucha, expertos en tecnología aseguran que el gigante del comercio electrónico registró en el pasado patentes para sistemas que implicaban la escucha permanente, como algoritmos que analizan cuándo las personas dicen que algo les gusta o que lo han comprado.
Por otra parte, indican que para evitar situaciones como las de la pareja de Portland bastaría con presionar el botón que desactiva el micrófono de Echo, aunque esa medida puede resultar incómoda porque luego se tiene que volver a activar cada vez que se quiera consultar algo a Alexa.
Quien ya ha asegurado que nunca volverá a conectar esos altavoces es Danielle, la usuaria afectada, quien reclama que le devuelvan el dinero de los dispositivos.
La empresa confirma el envío del audio y lo atribuye a una cadena imprevisible de hechos improbables