Una de las novedades de la App Store a partir de iOS 18.4 es poder ver textos generados por IA que resumen las reseñas que los usuarios dejan en las Apps. Esto, que ya hace bastante tiempo que podemos ver por ejemplo en las reseñas de productos de Amazon, ha sido explicado por los programadores responsables de su desarrollo en este artículo del blog de machine learning de Apple.
Estos resúmenes de reseñas, por ahora sólo disponibles en EEUU y otros países de habla anglosajona, se consiguen utilizando una App generativa de texto basada en modelos LLM. Este sistema debe tener en cuenta que no todas las reseñas pueden ser válidas, por ejemplo, si un usuario no habla de la experiencia con la App en sí, o si simplemente publica algo como broma y por la razón que sea pasa los filtros de moderación. Apple llama ruido a estas reseñas, y es importante que nada de eso aparezca en los resúmenes que esta IA escribe.
Además de eso, las reseñas se están actualizando continuamente según se van publicando nuevas versiones de cada App, y por lo tanto se debe también tener en cuenta la línea de tiempo que una App sigue desde su primera versión hasta la actual. Todo esto podría parecer sencillo, entrenando el modelo LLM con esas reseñas, pero no es tan fácil como parece y todos hemos visto ya que los resultados de muchos modelos LLM pueden ser también erróneos, producto de lo que llaman alucinaciones o simplemente resultado de entrenamientos basados en modelos de datos mal filtrados, de baja calidad.
Como ves en el diagrama, el procesado previo de esas reseñas para que luego sean datos realmente útiles para esa IA generativa, es complejo. Se toman todas las reseñas, se seleccionan palabras clave importantes, luego se generan los asuntos sobre los que habla cada una, se filtran de nuevo para que sólo se utilicen los que son realmente útiles y sólo entonces la IA generativa utiliza esos textos para escribir el sumario.
Es interesante que Apple publique abiertamente los procesos que siguen para generar este tipo de reseñas porque eso aporta no sólo transparencia sobre las reseñas en sí, sino también un pequeño resquicio por el que podemos ver la manera en la que dentro de Apple trabajan en estas cosas, algo no muy habitual en la mayoría de equipos que hay en la compañía.
