El problema de los buscadores con IA
Este último febrero se anunció que llegarían los motores de búsqueda impulsados por chatbots. La gran idea era que estos bots de IA cambiarían por completo nuestra experiencia de buscar en la web al generar respuestas conversacionales a nuestras preguntas, en lugar de simplemente darnos listas de enlaces o URLS de páginas como hasta ahora.
Pero las cosas no salieron como estaba pensado. Aproximadamente dos segundos después de que Microsoft abriera al público su nuevo motor de búsqueda Bing impulsado por CHATGPT, las personas comenzaron a descubrir que respondía a algunas preguntas con respuestas incorrectas o, peor, con teorías conspirativas. A Google le pasó algo peor y tuvo un momento incómodo cuando los científicos detectaron un error en el aviso de la empresa para su chatbot Bard. Eso provocó que cayeran US$ 100 mil millones el precio de las acciones.
¿Cómo no se dieron cuenta antes? ¿Cómo dos de las empresas más grandes e importantes del mundo cometieron esos errores?, se preguntará quien lea estas líneas. El problema, según se asegura en un artículo publicado por MIT Technology
Review es que la tecnología simplemente no está lista para ser utilizada a esta escala. Es un dato comprobado que los modelos de lenguaje de Inteligencia Artificial presentan datos falsos como ciertos, muchas más veces de lo que pensamos.
El tema es que las herramientas de IA pueden ser excelentes para predecir la siguiente palabra en una oración pero no tienen conocimiento de lo que realmente significa la oración que acaban de escribir. Eso hace que sea increíblemente peligroso combinarlos con la búsqueda, donde es crucial obtener los hechos correctamente para llegar a un resultado que tenga sentido y sea correcto. Openai la empresa propietaria de CHATGPT, siempre ha enfatizado que aún es solo un proyecto de investigación y que está mejorando constantemente a medida que recibe retroalimentación de las personas. Sin embargo, no ha impedido que Microsoft lo integre en una nueva versión de Bing (con advertencias de que los resultados de la búsqueda podrían no ser confiables) ni que Google esté usando desde hace años el procesamiento del lenguaje natural para ayudar a las personas a buscar en Internet usando oraciones completas en lugar de palabras clave.
Muchos especialistas aseguran que la razón por la que aún Google no ha integrado el chatbot de IA a sus búsquedas tiene más que ver con su reputación que con razones tecnológicas. Pero los errores de las grandes empresas tecnológicas no significan que la búsqueda impulsada por IA sea una causa perdida para ellos. Un camino que Google y Microsoft han intentado tomar y es recomendable es que los resultados de búsqueda generados por IA tengan citas o links al final de los textos. Enlazar a fuentes permite a los usuarios comprender mejor de dónde se obtiene la información que el motor de búsqueda está mostrando. Esto incluso podría ayudar a dar a las personas una visión más diversa de las cosas –le dijo a MIT Technology Review, Margaret Mitchell, investigadora que solía liderar el equipo de ética de IA de Google– al incentivarlos a considerar más fuentes de lo que podrían haber hecho de otra manera. Pero eso no soluciona el problema fundamental de que estos modelos de IA inventan información y presentan con confianza falsedades como hechos. “Muchas personas no verifican las citas. Tener una cita le da algo un aire de corrección que podría no estar realmente allí”, dice Mitchell. Lo que preocupa es que la precisión de los resultados de búsqueda realmente no es algo central para las grandes empresas tecnológicas. Hay un juego mucho más grande que la búsqueda impulsada por IA, aseguran los expertos y añaden que la búsqueda es solo una de las áreas donde las dos gigantes tecnológicas están luchando. La competencia es incluso más grande en servicio de la nube y software empresarial. La IA y su potencia para “conversar” con nosotros se está convirtiendo en una excusa para que Google y Microsoft puedan mostrar una vanguardia que en realidad “venden” en otros negocios.
¿Cómo dos de las empresas más grandes del mundo cometen errores?