Alexa: «Mata a tus padres adoptivos»
Amazon está trabajando con su asistente virtual para que sea capaz de imitar las bromas humanas y hablar sobre casi todo lo que encuentre en internet. Sin embargo, asegurarse de que no ofenda a los usuarios es todo un desafío
Lo s altavoces inteligentes han llegado para quedarse en nuestras vidas. Millones de personas en el mundo cuentan ya en sus casas con los famosos dispositivos Echo de Amazon , capaces de informar sobre el tiempo que hace en tu ciudad, pedir comida y manejar otras tareas básicas en respuesta a un comando de voz .
Pero este dispositivo no se queda solo ahí. El año pasado sorprendió a todos cuando a un usuario cuando dijo: « Mate a sus padres adoptivos ». Pero no ha sido la única expresión con la que el asistente ha sorprendido a los usuarios. Tal y como recuerda Reuters, Alexa también ha conversado con usuarios sobre actos sexuales o la defecación del perro.
La realidad es que Alexa no está teniendo crisis alguna. Estos curiosos episodios surgen de la estrategia que está llevando a cabo la propia compañía para conseguir que su dispositivo se comunique cada vez mejor. De hecho, una nueva investigación señala, según Reuters, cómo Amazon está trabajando con Alexa para que sea capaz de imitar las bromas humanas y hablar sobre casi todo lo que encuentre en internet . Sin embargo, asegurarse de que no ofenda a los usuarios es todo un desafío.
Lo que está en juego es un mercado en rápido crecimiento de dispositivos con asistentes virtuales. De acuerdo con la firma de investigación eMarketer, aproximadamente dos tercios de los clientes de altavoces inteligentes de EE.UU. , (43 millones de personas), utilizan los dispositivos Echo de Amazon . La compañía se centra, por tanto, en mantener la ventaja sobre sus competidores.
«Muchos de nuestros sueños de IA están inspirados en la ciencia ficción», dijo Rohit Prasad , vicepresidente de Amazon y científico principal de Alexa Artificial Intelligence (AI), durante una charla el mes pasado en Las Vegas. Para hacer que eso suceda, la compañía lanzó en 2016 el Premio anual Alexa, alistando a estudiantes de informática para mejorar las habilidades de conversación del asistente . Los equipos compiten por el primer premio de 500.000 dólares, creando «chatbots» que le permiten a Alexa intentar conversaciones más sofisticadas con la gente.
El proyecto ha sido importante para el CEO de Amazon, Jeff Bezos , quien aprobó que se usara a los clientes de la compañía como conejillos de indias, según ha relatado un persona a Reuters. Y es que Amazon está dispuesta a aceptar el riesgo de errores públicos para hacer una prueba de estrés de la tecnología en la vida real y conseguir que Alexa aprenda mucho más rápido. El experimento ya está dando frutos. Los equipos universitarios están ayudando a Alexa a tener una mayor variedad de conversaciones. Y los clientes de Amazon también han otorgado a los bots mejores calificaciones este año que el año pasado.
Pero los errores de Alexa le están pasando factura. Tanto que Bezos en ocasiones ha ordenado al personal que cierre un «bot». El usuario al que se le dijo que matara a sus padres adoptivos escribió una crítica muy dura contra la compañía en su página web, calificando la situación como « un nivel completamente nuevo y espeluznante ». Cuando la compañía investigó el incidente, encontró que el robot había citado una publicación sin contexto de Reddit.
El verdadero problema es que las implicaciones de privacidad pueden ser aún más complicadas. Es posible que los consumidores no se den cuenta de que algunas de sus conversaciones más sensibles estén siendo grabadas por los dispositivos de Amazon . El jueves, la compañía dijo que un «error humano» permitió que un cliente de Alexa en Alemania accediera accidentalmente a las grabaciones de voz de otro usuario.
Posibles fugas de datos
«Los usos potenciales de los conjuntos de datos de Amazon están fuera de las listas», dijo Marc Groman , experto en política de privacidad y tecnología de Georgetown Law. « ¿Cómo van a garantizar que, al compartir los datos, se utilicen de manera responsable? ». De hecho, el experto avanza que se puede acabar en una «catástrofe basada en datos», como ha sucedido con Facebook.
En julio, Amazon descubrió que uno de los bots diseñados por estudiantes había sido «hackeado». Esto comprometió una clave digital que podría haber desbloqueado las transcripciones de las conversaciones del robot, sin los nombres de los usuarios. La compañía deshabilitó rápidamente el bot e hizo que los estudiantes lo reconstruyeran para mayor seguridad.
La empresa reconoció el «hackeo» en un comunicado: «En ningún momento se vieron afectados los sistemas internos de Amazon ni los datos identificables de los clientes». Amazon se niega a dar detalles de los errores específicos de Alexa reportados por Reuters, pero señaló que trabaja por proteger a los usuarios del contenido ofensivo.
Sus equipos trabajan con herramientas que les ayudan a filtrar los temas blandos y delicados , que pueden detectar incluso ofensas sutiles. La compañía también escanea las transcripciones de conversaciones y cierra los robots transgresores hasta que se solucionen. «Estos casos son bastante raros, especialmente debido al hecho de que millones de clientes han interactuado con los 'socialbots'», dijo Amazon.
Al igual que el motor de búsqueda de Google, Alexa tiene el potencial de convertirse en una puerta de entrada dominante a Internet , por lo que la compañía sigue adelante. «Al controlar esa puerta de entrada, puede construir un negocio súper rentable», dijo Kartik Hosanagar, un profesor de Wharton que estudia la economía digital.
Abrir la caja de Pandora
La estrategia comercial de Amazon para Alexa supone abordar un problema de investigación masivo: ¿Cómo enseñar el arte de la conversación a un ordenador? Alexa se basa en el aprendizaje automático , la forma más popular de la inteligencia artificial para trabajar. Estos programas informáticos transcriben el habla humana y luego responden a esa entrada con una suposición basada en lo que han observado antes. El software «aprende» de las nuevas interacciones, mejorando gradualmente con el tiempo.
El objetivo de Amazon es conseguir un asistente capaz de entablar un diálogo natural y abierto. Eso requiere que Alexa entienda un conjunto más amplio de señales verbales de los clientes, una tarea que representa un desafío incluso para los humanos.
Noticias relacionadas
